IBM משיקה את Granite Speech 5.0 2B: מודל דיבור קומפקטי לתמלול ולתרגום
IBM פרסמה ב-Hugging Face את Granite Speech 5.0 2B, מודל חדש מסדרת Granite שממיר דיבור לטקסט. הוא נכלל באוסף של מודלים רב-לשוניים לתמלול ולתרגום בארגונים. נראה שהגודל הצנוע שלו, כ-2 מיליארד פרמטרים, משתלב במגמה של מודלים קטנים שאפשר להריץ מקומית.
IBM הוסיפה מודל חדש לסדרת Granite שלה: Granite Speech 5.0 2B, מודל לזיהוי דיבור. לפי שמו הוא כולל כ-2 מיליארד פרמטרים. המודל מופץ דרך Hugging Face, הפלטפורמה המרכזית לשיתוף מודלים של בינה מלאכותית, ונכלל שם באוסף שהחברה מתארת כ"מודלים רב-לשוניים של ASR ו-speech-to-text לתמלול ולתרגום בארגונים".
מה יש בחבילה
ASR (ראשי תיבות של Automatic Speech Recognition, זיהוי דיבור אוטומטי) היא הטכנולוגיה שהופכת הקלטת קול לטקסט כתוב. לפי עמוד המודל, האוסף שאליו שייך המודל החדש כולל 15 פריטים. לצדו מקושרים כמה מאמרים מחקריים שפורסמו במרץ ובאפריל, ופוסט של צוות ibm-granite בשם "Granite Speech 5.0: Transcribe, Translate, and Attribute more Accurately and Faster" ("לתמלל, לתרגם ולשייך בדיוק רב יותר ומהר יותר").
הכותרת מסמנת שלוש יכולות: תמלול, תרגום ו"שיוך" (Attribute). ככל הנראה הכוונה לזיהוי הדובר שאמר כל קטע, יכולת שימושית במיוחד בתמלול ישיבות ושיחות עם כמה משתתפים. עם זאת, חומרי המקור לא מפרטים זאת, וגם לא מציינים אילו שפות המודל תומך בהן, באיזה רישיון הוא מופץ או מה ביצועיו לעומת מודלים מתחרים.
למה הגודל חשוב
2 מיליארד פרמטרים הם מספר צנוע בעולם שבו מודלי שפה מובילים מגיעים למאות מיליארדים. מספר הפרמטרים קובע במידה רבה כמה זיכרון וכוח חישוב צריך כדי להריץ את המודל. מודל בגודל כזה יכול ככל הנראה לרוץ על חומרה סטנדרטית יחסית, כמו מחשב עם כרטיס גרפי ביתי או שרת ארגוני רגיל, בלי תלות בשירות ענן.
אצל מודלי דיבור לזה יש משמעות מעשית. הקלטות של שיחות, פגישות ושיחות שירות לקוחות מכילות לעיתים קרובות מידע רגיש. ארגון שיכול לתמלל אותן על התשתית שלו לא צריך לשלוח את ההקלטות לצד שלישי. סביר שזה הקהל ש-IBM מכוונת אליו, בהתאם לדגש על "ארגונים" בתיאור האוסף.
ההקשר הרחב
Granite היא משפחת המודלים ש-IBM מפתחת בשנים האחרונות. בניגוד לחברות שמתחרות על בניית המודל הגדול והחזק ביותר, IBM מדגישה לאורך הדרך מודלים קטנים וממוקדים לשימושים עסקיים. Granite Speech 5.0 2B ממשיך את הקו הזה.
נראה שהמהלך משתלב במגמה רחבה יותר בתעשייה: לצד מירוץ המודלים הענקיים מתפתח שוק של מודלים קטנים שמותאמים למשימה אחת ויכולים לרוץ מקומית, על המחשב, על הטלפון או בשרתי הארגון. במשימות מוגדרות כמו תמלול, מודל קטן ומותאם יכול ככל הנראה לתת תוצאות טובות מספיק בעלות נמוכה בהרבה.
עד שיפורסמו נתוני ביצועים מפורטים ובדיקות עצמאיות, קשה להעריך איפה בדיוק עומד המודל החדש מול המתחרים. מי שרוצה לבדוק בעצמו יכול כבר עכשיו להוריד אותו מ-Hugging Face ולהריץ אותו על ההקלטות שלו.