Underdog הציגה את Woof: מודל קול של 32MB שמייצר דיבור ומוזיקה ורץ בדפדפן
הסטארט-אפ Underdog חשף את Woof, מודל הפקת דיבור בנפח של כ-32MB, באמצעות משחק דפדפן שבו המודל גם מקריא טקסט וגם מייצר מוזיקה. לפי החברה, המודל יכול לרוץ על רוב המכשירים בלי חיבור לאינטרנט, והוא פתוח להורדה. זו הדגמה של הטכנולוגיה ולא השקת מוצר מלא.
הסטארט-אפ Underdog הציג השבוע את Woof, מודל text-to-speech (הפיכת טקסט לדיבור) בנפח של 31.7MB בלבד, עם 31 מיליון פרמטרים. במקום השקה רגילה בחרה החברה להציג אותו דרך משחק שרץ בדפדפן, שבו המודל מדבר וגם מייצר מוזיקה. לפי החברה, Woof יכול לרוץ על רוב המכשירים בלי חיבור לאינטרנט, והמודל עצמו פתוח להורדה לכולם.
מכונת כתיבה שמדברת
המשחק מתרחש בחדר בעיצוב רטרו, עם מכונת כתיבה, מסך CRT ומנורת שולחן שמשמיעה צליל כשלוחצים על המתג שלה. כל טקסט שמקלידים במכונת הכתיבה מוקרא בחזרה בקול, וסיבוב של כפתור הטיונר מייצר סוגים שונים של מוזיקה. על פי TechCrunch, כל זה מתבצע בתוך הדפדפן באמצעות מודל הפקת הדיבור של החברה.
גם העלילה מעבירה מסר: הפתיח מזהיר מפני ספקי ענן "פולשניים" בעיירה, ככל הנראה עקיצה למודלים שפועלים בענן. החברה הודיעה שמי שינצח את הדמות Darkcloud יקבל הזמנה, אך לא ברור מהחומרים שבידינו למה בדיוק.
חלק מסדרה של מודלים מקומיים
Woof מגיע שבועות ספורים אחרי Bark, מודל speech-to-text של Underdog בנפח 167MB, שנועד אף הוא לרוץ על מכשירי קצה (edge devices), כלומר על הטלפון או המחשב של המשתמש, לצורכי תמלול והכתבה. בנוסף, החברה פרסמה מודל של 27 מיליארד פרמטרים שיכול לרוץ על מחשבים ניידים, ויש לה אפליקציה עם רשימת המתנה, שהיא ממצבת כחלופה מקומית ל-Muse ול-Instinct.
מייסד החברה, Sigil Wen, סיפר ל-TechCrunch שהתחיל לבנות את האפליקציה כי במקום להשתמש בכלי תיעוד פגישות כמו Granola, רצה מערכת משלו, המבוססת על מודלים שרצים על מכשירי המשתמשים ומשאירה בידיהם את הבעלות על הנתונים. "אני חושב שנוכל להריץ את רוב המודלים המתקדמים של היום על המכשירים שכבר ברשותכם בתוך חודשים", אמר. "אנחנו פשוט רוצים לאמן את המודלים הפתוחים הטובים ביותר, שנוצרו באמריקה, שהם פתוחים ובעלי יכולות ומאפשרים לאנשים AI פרטי". זו תחזית של מייסד שיש לו עניין בנושא, ולא נתון שנבדק.
למה זה חשוב
בזמן שחברות AI ברחבי העולם מתחרות על מודלים גדולים יותר, שדורשים כוח עיבוד עצום, Underdog שייכת לקבוצה של חוקרים וסטארט-אפים שפועלים בכיוון ההפוך. המשמעות של מודל קול בנפח של קובץ קטן היא שאפליקציות עשויות לשלב יכולת דיבור בלי לשלוח נתונים לשרת, בלי תלות בחיבור לרשת, וככל הנראה גם בלי עלות שוטפת של שירות ענן.
ועדיין, מדובר בהדגמה. לפי TechCrunch, מודל בגודל כזה כנראה לא יחליף מודלים גדולים, אך ייתכן שיספיק להפעלת עוזרים מקומיים או ליצירת פודקאסטים מותאמים אישית. בחומרים שבידינו אין נתונים בלתי תלויים על איכות הקול, ולכן השאלה המעשית, עד כמה התוצאה טובה מחוץ למשחק, נותרת פתוחה.