כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
אינטל חשפה את השם והמפרט של מאיץ ה-AI שפותח תחת שם הקוד Crescent Island: כרטיס D-Series לשרתים עם 32 ליבות Xe3P וזיכרון LPDDR5X בנפח של עד 480 GB. הכרטיס כבר נשלח כדוגמאות ללקוחות, אבל המחיר, מועד הזמינות ותוצאות ביצועים בלתי תלויות עדיין לא פורסמו.
חברת Architect Financial Technologies השיקה את Liquid Inference, שירות שמנתב בקשות למודלי שפה ומקיים מכרז חי על כל בקשה. ספקים מגישים הצעות לשרת כל prompt, והלקוח משלם את ההצעה הזולה ביותר שעומדת בכללים שהגדיר. לפי ההודעה, כדי להתחבר מספיק להחליף את כתובת הבסיס (base URL) בקוד.
OpenAI השיקה את GPT-6 Astra Ultrafast, גרסה מואצת של המודל שרצה על מעבדי Blackwell של אנבידיה. לפי החברות, היא מייצרת טוקנים מהר עד פי 8 ממצב Astra Standard. הגרסה זמינה כבר עכשיו ב-API של OpenAI ולמשתמשים זכאים ב-ChatGPT Work וב-Codex. לפי OpenAI, היא השתמשה במודלים שלה עצמה כדי לייעל את התוכנה שמריצה אותם.
לפי דיווח ב-TechCrunch, חברת תשתיות ה-inference Modal Labs קרובה לגיוס של 750 מיליון דולר בהובלת Accel, לפי שווי של 15.75 מיליארד דולר. זה יותר מפי שלושה מהשווי שלה לפני ארבעה חודשים בלבד. הגיוס מצטרף לגל סבבים אצל חברות שמריצות מודלים, בעיקר מודלי open source, בזמן שהביקוש לשירותים האלה ממשיך לעלות.
פלטפורמות חדשות כמו Far Labs ו-Evolving Edge מאפשרות לבעלי מחשבים ביתיים להשכיר כוח מחשוב פנוי לחברות AI עבור הרצת inference, ולהרוויח הכנסה פסיבית. המודל, בהשראת שירותי שיתוף כמו Uber ו-Airbnb, מוצג כאלטרנטיבה למרכזי נתונים ענקיים שמכבידים על קהילות מקומיות.