Liquid AI משיקה את LiquidCodec: קודק שמע קטן שרץ על thread יחיד של מעבד

חברת Liquid AI השיקה את LiquidCodec, קודק שמע (audio codec) לסטרימינג שיש בו כ-74 מיליון פרמטרים. לפי הדיווח ב-MarkTechPost, הקודק הוא הרכיב שעליו נשענים שני מודלי השמע החדשים של החברה, LFM3-Audio-2B ו-LFM3-Omni-2B. הנתון הבולט במיוחד הוא המהירות: הקודק מקודד שמע מהר בערך פי 361 מזמן אמת, וזה על thread יחיד של מעבד רגיל (CPU), בלי כרטיס גרפי.

מה בכלל עושה קודק שמע במודל שפה

מודלי שפה גדולים (LLM) עובדים עם יחידות בדידות שנקראות טוקנים. בטקסט הטוקנים הם מילים או חלקי מילים. בשמע אין יחידות כאלה באופן טבעי, כי מדובר בגל קול רציף. כדי שמודל יוכל "לשמוע" ולענות בקול, צריך רכיב שיתרגם את השמע לרצף קודים שהמודל מסוגל לעבד, ובכיוון ההפוך יחזיר את הקודים שהמודל מייצר לצליל. זה התפקיד של הקודק.

לפי המקור, LiquidCodec פועל בקצב של 12.5 Hz עם 12 codebooks. בשפה פשוטה: כל שנייה של שמע מחולקת ל-12.5 מסגרות, וכל מסגרת מיוצגת באמצעות 12 קודים, כל אחד מתוך "מילון" אחר. ככל שהקצב נמוך יותר, יש פחות טוקנים לכל שנייה של שמע. המשמעות היא ככל הנראה עומס קטן יותר על מודל השפה שמעבד אותם, ותגובה מהירה יותר.

למה המספרים חשובים

הקודק קטן יחסית, כ-74 מיליון פרמטרים, והמודלים שהוא מפעיל נמצאים בסדר גודל של 2 מיליארד פרמטרים, כפי שמרמז הסיומת 2B בשמם. זה רחוק מאוד מהמודלים הענקיים שרצים בחוות שרתים. השילוב הזה מתאים לגישה ש-Liquid AI מזוהה איתה במשפחת המודלים LFM שלה: מודלים קומפקטיים שאמורים לרוץ גם על חומרה צנועה.

המילה "סטרימינג" חשובה כאן. קודק לסטרימינג מעבד את השמע בזמן שהוא נכנס, בלי לחכות לסוף המשפט, וזה תנאי בסיסי לשיחה קולית טבעית עם עוזר דיגיטלי. מהירות של פי 361 מזמן אמת על thread אחד מרמזת שהקידוד עצמו צורך רק חלק זעיר מכוח העיבוד הזמין. כך נשאר מקום למודל השפה, ובמכשיר עם כמה ליבות גם לתהליכים אחרים.

המשמעות

אם הנתונים יחזיקו גם בשימוש בפועל, LiquidCodec הוא עוד צעד בכיוון שמסתמן בתעשייה: העברת יכולות קוליות מהענן אל המכשיר עצמו, כמו טלפון, מחשב נייד, רכב או מכשיר IoT. ההערכה היא שהיתרונות יהיו זמן תגובה קצר יותר, עלויות שרת נמוכות יותר ופרטיות טובה יותר, כי השמע לא חייב לצאת מהמכשיר.

חשוב לזכור שהדיווח מתמקד במהירות הקידוד. המקור לא מפרט נתונים על איכות השמע המשוחזר, על השוואה לקודקים מתחרים או על תנאי השימוש והרישוי של הקודק. אלה השאלות שיקבעו בסופו של דבר אם מפתחים יאמצו אותו.