קוואלקום משיקה שבבי סמארטפון חדשים: גרסת ה-Extreme מריצה מקומית מודל AI בן 30 מיליארד פרמטרים
קוואלקום הכריזה על שני מעבדי דגל חדשים לסמארטפונים, Snapdragon 8 Elite Gen 6 ו-Snapdragon 8 Elite Extreme Gen 6, עם דגש על יכולות AI. גרסת ה-Extreme מריצה על המכשיר עצמו מודל mixture-of-experts בן 30 מיליארד פרמטרים. רכיב חיישנים חדש מאפשר לבנות זיכרון אישי על בסיס השימוש, ולדברי החברה השבב יכול להריץ סוכן קולי מלא.
קוואלקום הכריזה היום (22 בספטמבר) על שני מעבדי דגל חדשים לסמארטפונים: Snapdragon 8 Elite Gen 6 ו-Snapdragon 8 Elite Extreme Gen 6. לפי TechCrunch, הדגש בהשקה הוא על יכולות AI. הנתון הבולט: גרסת ה-Extreme מסוגלת להריץ מקומית, על הטלפון עצמו, מודל בן 30 מיליארד פרמטרים.
מה השבבים יודעים לעשות
ההכרזה נעשתה בכנס Snapdragon Summit השנתי של החברה. לדברי קוואלקום, השבבים החדשים יאפשרו התאמה אישית טובה יותר של סוכני AI, כלומר תוכנות שמבצעות משימות בשם המשתמש.
הם כוללים רכיב חיישנים חדש (sensing hub) שמריץ מודלים קטנים של עד 200 מיליון פרמטרים. לפי החברה, בעזרתו הטלפון יכול להפעיל מקומית "רשם אישי" (personal scribe) שמבחין בין דוברים שונים. הרכיב גם בונה זיכרון מתוך דפוסי השימוש של המשתמש, ומציע על בסיסו הצעות לאוטומציה של משימות. קוואלקום מוסיפה שהשבב יכול להריץ סוכן קולי שלם, שמקבל קלט בדיבור ומשיב בדיבור.
ב-Snapdragon 8 Elite Gen 6 יש גם רכיב האצה חדש, שנועד להריץ מודלים ביעילות רבה יותר.
30 מיליארד פרמטרים, אבל לא כולם בבת אחת
גרסת ה-Extreme מריצה מקומית מודל מסוג mixture-of-experts (MoE) בגודל 30 מיליארד פרמטרים. בארכיטקטורה הזו המודל מורכב מכמה "מומחים" פנימיים, ולכל משימה מופעל רק חלק מהפרמטרים. לכן, למרות הגודל הכולל, כמות החישוב בכל רגע קטנה בהרבה. ככל הנראה זה מה שמאפשר להריץ מודל בסדר גודל כזה במגבלות הזיכרון והסוללה של טלפון.
לשם השוואה, בכנס המפתחים WWDC ביוני שחררה אפל מודל MoE בן 20 מיליארד פרמטרים. זה המתקדם שבדור השלישי של מודלי הבסיס שלה.
מצלמה, וידאו ושמע
גם בצילום יש שיפורים. המעבד החדש נותן שליטה ברמת הפיקסל במצלמה, ומשפר את הייצוב ואת זיהוי התנועה. גרסת ה-Extreme תומכת בצילום וידאו ב-8K ב-60 פריימים לשנייה, ובהילוך איטי ב-4K ב-240 פריימים לשנייה. היא תומכת גם ב-codec החדש Advanced Professional Video (APV), המיועד להקלטה ברמה מקצועית.
בתחום השמע, שני השבבים משתמשים ב-AI כדי להגביר את הקול ולסנן רעשים. הם כוללים גם טכנולוגיה חדשה של קוואלקום בשם voice bubble, שנועדה לבודד את המשתמש מרעשי רקע בזמן שיחות.
הטלפון הראשון
בכנס הכריזה מוטורולה על ה-Motorola Signature 27, טלפון שמבוסס על גרסת ה-Extreme. לפי הדיווח, הוא יהיה זמין לציבור הרחב במהלך השנה.
למה זה חשוב
קוואלקום עובדת על יותר מ-40 מכשירי AI. עם זאת, לפי TechCrunch, רבים עדיין מעריכים שהטלפון, ולא מכשיר ייעודי, יהיה הדרך העיקרית שבה אנשים ישתמשו ב-AI. קרל פיי, ממייסדי Nothing, רמז על המגמה הזו בעבר. לאחרונה חיזק אותה גם ג'ון טרנוס, מנכ"ל אפל החדש, בהשקת ה-iPhone Duo מוקדם יותר החודש.
ההשקה של קוואלקום משתלבת בכיוון הזה. הרצת מודלים על המכשיר עצמו פירושה, ככל הנראה, פחות תלות בחיבור לענן, תגובה מהירה יותר ופחות מידע אישי שיוצא מהטלפון. זה חשוב במיוחד בכלים כמו רשם אישי וזיכרון שנבנה מתוך השימוש, שמטפלים במידע רגיש. אם מודל בן 30 מיליארד פרמטרים ירוץ היטב בטלפונים שיגיעו לשוק, המשמעות היא שחלק מהיכולות שעד לאחרונה חייבו שרתים מרוחקים יעברו לכיס של המשתמש. המבחן האמיתי, כמו תמיד, יהיה בביצועים בפועל ובצריכת הסוללה.