Gradium משחררת את Phonon: מודל דיבור מקומי של 31 מיליון פרמטרים בקוד פתוח
חברת Gradium שחררה בקוד פתוח את Phonon, משפחה של מודלים להמרת טקסט לדיבור שרצים על המכשיר עצמו. הגרסה האנגלית, Phonon 31m, תופסת 64.5 MB, מתחילה לדבר בתוך כ-7 מילישניות על מעבד של מחשב נייד ומופצת ברישיון Apache 2.0.
חברת Gradium שחררה בקוד פתוח את Phonon. זו משפחה של מודלי TTS (text-to-speech, המרת טקסט לדיבור) שנבנו לרוץ על המכשיר עצמו, בלי לשלוח את הטקסט לשרת בענן. לפי הדיווח ב-MarkTechPost, המודל האנגלי במשפחה, Phonon 31m, תופס 64.5 MB בלבד ומתחיל להשמיע דיבור בתוך כ-7 מילישניות על מעבד (CPU) של מחשב נייד. הוא מופץ ברישיון Apache 2.0.
מה יש בחבילה
כפי שהשם מרמז, ל-Phonon 31m יש כ-31 מיליון פרמטרים. זה גודל קטן מאוד יחסית למודלי שפה וקול שמוכרים לרוב הקוראים, ושל חלקם יש מיליארדי פרמטרים. ההודעה מתארת את Phonon כ"משפחה" של מודלים, אבל בחומרים שפורסמו מופיע במפורש רק המודל באנגלית. לא פורסם אילו שפות או גרסאות נוספות כלולות במשפחה, אם בכלל, ולכן אין מה לדווח עליהן כרגע.
שלושת הנתונים המרכזיים הם נפח של 64.5 MB, זמן תגובה של כ-7 מילישניות על CPU של לפטופ ורישיון Apache 2.0. כל אחד מהם נוגע לשאלה מעשית אחרת שמפתחים שואלים כשהם בוחרים מנוע קול.
למה המספרים האלה חשובים
הנפח. 64.5 MB הם בערך הגודל של אפליקציה ממוצעת. ככל הנראה המשמעות היא שאפשר לארוז את המודל בתוך תוכנה או אפליקציה בלי להכביד על ההורדה, ובלי לדרוש מהמשתמש להוריד בנפרד קובץ מודל של כמה ג'יגה-בייט.
זמן התגובה. ב-TTS המדד הרלוונטי הוא לרוב הזמן שעובר עד שנשמעת ההברה הראשונה, ולא רק המהירות הכוללת. בעוזרים קוליים, בממשקי נגישות ובקריאת טקסט בקול, השהיה מורגשת לפני תחילת הדיבור פוגעת בתחושה של שיחה טבעית. כ-7 מילישניות על מעבד רגיל, בלי כרטיס גרפי, הם זמן קצר בהרבה ממה שאדם מסוגל להבחין בו. אם הנתון יחזיק גם בבדיקות עצמאיות, מדובר כנראה במודל שמתאים גם למחשבים בלי חומרה ייעודית ל-AI.
הרישיון. Apache 2.0 הוא רישיון קוד פתוח מתירני. הוא מאפשר שימוש מסחרי, שינוי והפצה, בכפוף לתנאים בסיסיים כמו שמירה על הודעת הרישיון. בפועל, חברות יכולות לשלב את Phonon במוצר בתשלום בלי לשלם תמלוגים ובלי לחשוף את הקוד שלהן.
המשמעות
הרצה מקומית של קול פותרת כמה בעיות בבת אחת: אין עלות לכל קריאת API, אין תלות בחיבור לאינטרנט, והטקסט שמוקרא לא יוצא מהמכשיר. בהקשר של פרטיות זה יתרון ממשי. ההערכה היא שמודלים קטנים ופתוחים כמו Phonon ימשכו בעיקר מפתחים של אפליקציות דסקטופ, כלי נגישות, מכשירים מחוברים ומשחקים, שבהם קריאה לענן יקרה מדי, איטית מדי או לא אפשרית.
עם זאת, כדאי להתייחס לנתונים בזהירות. המספרים שפורסמו מתארים גודל ומהירות, אבל לא את איכות הקול. איכות היא השאלה המכרעת במודלי דיבור, ובדרך כלל זה המקום שבו מודלים קטנים משלמים את המחיר. עד שיופיעו השוואות עצמאיות, קשה לדעת עד כמה Phonon 31m יכול להחליף שירותי TTS בענן, ולא רק לשמש חלופה קלה עבור מכשירים חלשים.