כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםגרסת אלפא של מודל שפה בקוד פתוח בשם PhoneLLM, שפורסמה תחת הפרויקט pipecat-ai, טוענת להשגת ביצועים דומים לדגם הקנייני GPT 5.6 Terra במשימות טיפוסיות של סוכני קול - עם זמן תגובה נמוך פי שלושה ועלות נמוכה פי 18. הנתונים מבוססים על פרסום של הצוות המפתח עצמו ברשת Reddit וטרם עברו אימות עצמאי.
גרסת אלפא של מודל שפה חדש בשם PhoneLLM, שהועלתה לאחרונה תחת הריפוזיטורי [pipecat-ai/phonellm-alpha-1], מציגה טענת ביצועים בולטת: לפי המפתחים, המודל - שהוא קוד פתוח - משיג רמת ביצועים דומה לזו של הדגם הקנייני GPT 5.6 Terra במשימות טיפוסיות של סוכני קול, תוך זמן תגובה (latency) נמוך פי שלושה ובעלות תפעולית נמוכה פי 18.
הפרסום עלה לפורום r/LocalLLaMA ברשת Reddit, קהילה המרכזת דיונים סביב מודלי שפה שניתן להריץ באופן עצמאי, מחוץ לשירותי הענן של חברות כמו OpenAI, Google או Anthropic. השם "alpha-1" מעיד על כך שמדובר בשלב פיתוח מוקדם, ולא בגרסה יציבה למוצר.
הריפוזיטורי פורסם תחת הארגון pipecat-ai - הגוף שמאחורי Pipecat, פריימוורק קוד פתוח מוכר לבניית סוכני קול, המשמש מפתחים ליצירת אפליקציות שבהן משתמש מדבר בזמן אמת עם עוזר מבוסס בינה מלאכותית (למשל שירותי תמיכה טלפוניים אוטומטיים או עוזרים קוליים). "משימות טיפוסיות של סוכני קול", כפי שמופיע בכותרת הפרסום, מתייחסות ככל הנראה למשימות כמו הבנת שיחה, מענה בזמן אמת וניהול דיאלוג - התחום שבו מהירות תגובה נמוכה קריטית לחוויית שיחה טבעית.
עלות ומהירות הן שני הגורמים המרכזיים שמעכבים כיום פריסה רחבה של סוכני קול מבוססי בינה מלאכותית בקנה מידה מסחרי. כל מילישנייה של עיכוב בתגובת המודל פוגעת בטבעיות השיחה, וכל בקשה למודל קנייני יקר נושאת עלות שמצטברת במהירות כשמדובר במיליוני שיחות. אם הטענות על PhoneLLM אכן יעמדו במבחן המציאות, פירוש הדבר הוא שמפתחים קטנים וחברות ללא תקציבי ענן גדולים יוכלו להריץ סוכני קול באיכות דומה לפתרונות המובילים בשוק, במחיר נמוך משמעותית ובזמן תגובה מהיר יותר.
עם זאת, חשוב להדגיש שמדובר בשלב זה בנתונים שפורסמו על ידי הצוות המפתח עצמו, במסגרת פוסט ברשת חברתית ולא בבנצ'מארק עצמאי או ביקורת עמיתים. כמו כן, המודל שאליו מתבצעת ההשוואה - GPT 5.6 Terra - אינו מלווה בפרטים נוספים במקור, ולכן לא ניתן לאמת באופן עצמאי את תנאי ההשוואה, גודל המדגם או המתודולוגיה שבה נעשה שימוש. עד לפרסום נתונים מפורטים יותר או בדיקות של גורמים חיצוניים, יש להתייחס לפער הביצועים הנטען כהערכה ראשונית של המפתחים ולא כעובדה מבוססת.