מנכ"ל אינטל: מודלי AI סיניים מאומצים "מהר מאוד", בזכות עלות נמוכה וביצועים מספקים
מנכ"ל אינטל, ליפ-בו טאן, אמר בפאנל של הבנק DBS שמודלי AI סיניים כמו DeepSeek, Kimi ו-GLM מאומצים בקצב מהיר. לדבריו, הסיבה היא עלות token נמוכה משמעותית לצד ביצועים שמספיקים לשימוש ארגוני. באותו פאנל הוא גם תמך בקוד פתוח והעריך שמחשוב קוונטי ייכנס לשימוש רחב בתוך שלוש עד חמש שנים.
מנכ"ל אינטל, ליפ-בו טאן, אמר שמודלי בינה מלאכותית סיניים מהשורה הראשונה מאומצים ברחבי העולם בקצב מהיר. לדבריו, הסיבה העיקרית היא שעלות ה-token שלהם נמוכה משמעותית מזו של המתחרים. טאן דיבר בפאנל שארגן הבנק DBS. הדברים פורסמו באתר LatestLY, שמתבסס על דיווח של The Economic Times.
טאן הזכיר שלושה מודלים בשמם: DeepSeek, Kimi ו-GLM. לדבריו, הם מציגים יכולות תחרותיות ובמקביל מורידים את מחסום העלות. הוא הוסיף שהביצועים של המערכות האלה מספיקים לגמרי לשימוש בארגונים, ושהפלטפורמות הסיניות נכנסות במהירות לשימוש במגוון תעשיות.
למה עלות ה-token חשובה
רוב השימוש המסחרי במודלי שפה גדולים (LLM) מחויב לפי tokens, יחידות טקסט קטנות שהמודל קורא וכותב. חברה שמפעילה צ'טבוט לשירות לקוחות, מערכת לסיכום מסמכים או סוכן אוטומטי מעבדת מיליוני tokens. לכן כל הוזלה ביחידה הבודדת מצטברת לחיסכון משמעותי בחשבון החודשי.
המשמעות היא שהשאלה התחרותית משתנה. השאלה כבר אינה רק איזה מודל הוא הטוב ביותר, אלא גם איזה מודל טוב מספיק במחיר הנמוך ביותר. כשחברה מגיעה למסקנה שמודל זול נותן תוצאה סבירה למשימה שלה, היתרון של מודל יקר ומעט חזק יותר נשחק. לפי הדיווח, אנליסטים בתעשייה מעריכים שהוצאות token נמוכות מערערות הנחות ותיקות לגבי הדומיננטיות של המודלים המערביים היקרים.
תמיכה בקוד פתוח
טאן תמך בתוקף במסגרות קוד פתוח (open source), ותיאר אותן כמנגנון היעיל ביותר לשיפור היעילות בתעשיית הטכנולוגיה. לדבריו, מערכת אקולוגית פתוחה מאפשרת לכוחות השוק לקבוע איזו ארכיטקטורת מודל מתאימה לכל שימוש מסחרי, ומפחיתה את התלות בתשתיות קנייניות.
כדאי לזכור את ההקשר. חלק ניכר מהמודלים הסיניים הבולטים מופצים עם משקלים פתוחים, כך שארגונים יכולים להריץ אותם על החומרה שלהם. אינטל היא בראש ובראשונה יצרנית שבבים, ולא חברת מודלים. לכן סביר שהיא רואה בעולם של מודלים פתוחים וזולים, שרצים על מגוון רחב של חומרה, הזדמנות עסקית ולא איום.
מבט קדימה: מחשוב קוונטי
באותו פאנל טאן העריך שמחשוב קוונטי עשוי להיכנס לשימוש מיינסטרים בתוך שלוש עד חמש שנים. הוא הדגיש שתוכנה ייעודית תמלא תפקיד מרכזי בניצול יעיל של תשתיות המחשוב העתידיות.
המשמעות
מנכ"ל של אחת מחברות השבבים האמריקאיות הגדולות מתאר בפומבי את המודלים הסיניים כמתחרים לגיטימיים לשימוש ארגוני. זה מצטרף לתמונה שהולכת ומתבהרת: התחרות בשוק ה-AI עוברת בהדרגה משאלת הביצועים הטהורים ליחס בין עלות לתועלת. ככל הנראה, ספקיות המודלים האמריקאיות יצטרכו להצדיק את הפער במחיר ביתרון ביצועים ברור, או להוריד מחירים.
יש לציין שהציטוטים מגיעים מדיווח משני. LatestLY עצמו מסווג את הידיעה כ"אמינה אך דורשת אימות נוסף", כי היא מבוססת על דיווח עיתונאי ולא על אישור רשמי מאינטל.