כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
לפי דיווח בלעדי של רויטרס, שלוש ענקיות הטכנולוגיה הסיניות הזמינו יותר מ-3 מיליון כרטיסי RTX PRO 5500 של אנבידיה. לפי מחיר המחירון, ההזמנות שוות יחד יותר מ-35 מיליארד דולר. אנבידיה מבהירה שאינה יכולה להתחייב לספק את כל הכמות, ולפי אחד המקורות חלק מהלקוחות יקבלו רק 5% עד 10% ממה שהזמינו.
חוקר עצמאי חשף ש-CrofAI, ששיווקה עצמה כספקית ה-inference הזולה בעולם, ניתבה בפועל חלק ניכר מהבקשות דרך OpenRouter למודלים זולים וחלשים מאלה שהמשתמשים ביקשו וביצעו עבורם תשלום. שעות ספורות לאחר פרסום החשיפה החברה הודיעה על סגירתה ומחקה את נוכחותה המקוונת.
תעשיית ה-AI מזיזה את מוקד ההשקעה מאימון מודלים ענקיים להרצתם היעילה בקנה מידה עסקי, ולשם כך אנבידיה, גוגל ו-AWS מפתחות ארכיטקטורות שבבים הטרוגניות - שבבים ייעודיים לשלבים שונים בתהליך ה-Inference. הגישה מבטיחה חיסכון בעלויות אך מציבה אתגרי תוכנה ורשת חדשים.