גוגל משיקה הבנת וידאו אג'נטית ל-Gemini Flash: חיסכון של עד 88% בטוקנים

גוגל הציגה יכולת חדשה למודלי Gemini Flash: הבנת וידאו "אג'נטית" (agentic), המצמצמת את צריכת הטוקנים בעיבוד סרטונים בעד 88% ביחס לשיטה הקודמת. כך דיווח MarkTechPost.

מה השתנה

עד כה, כשמודל Gemini קיבל קובץ וידאו לניתוח, הוא "בלע" אותו במלואו — דגימת פריימים בקצב קבוע של פריים אחד בשנייה (1 FPS) לכל אורך הסרטון, ללא קשר לשאלה שנשאלה. שיטה זו יוצרת עומס טוקנים גדול במיוחד עבור סרטונים ארוכים, שכן כל פריים מתורגם לייצוג טקסטואלי שהמודל צריך "לקרוא".

בגישה החדשה, לפי המקור, המודל לא "בולע" את כל התוכן מראש אלא מנווט בתוכו: הוא בוחן את השאילתה, ומטעין רק את קטעי הווידאו הרלוונטיים לתשובה, במקום את הסרטון כולו. התוצאה, לפי גוגל, היא חיסכון של עד 88% בכמות הטוקנים הנדרשת לניתוח וידאו.

למה זה חשוב

ככל הנראה, המשמעות המעשית של השינוי היא הוזלה משמעותית של עלויות שימוש ב-API עבור אפליקציות שמזינות ל-Gemini קבצי וידאו ארוכים — למשל ניתוח הרצאות, שידורי אבטחה, או תוכן וידאו שיווקי. פחות טוקנים לעיבוד משמעו גם, קרוב לוודאי, זמני תגובה מהירים יותר, שכן המודל לא נדרש לעבד ולהחזיק בזיכרון העבודה שלו ייצוג של כל פריים בסרטון.

הבחירה למקד את השדרוג במשפחת Flash — הגרסאות המהירות והזולות יותר של Gemini, המיועדות לשימוש בקנה מידה גדול ובעלות נמוכה — תואמת מגמה רחבה יותר בתעשייה: התחרות בין גוגל, OpenAI ואנתרופיק עוברת בהדרגה מ"מי שהמודל שלו החכם ביותר" ל"מי שהמודל שלו הזול והיעיל ביותר להרצה בפרודקשן", בפרט כשמדובר בקלט "כבד" כמו וידאו ואודיו.

מבחינה טכנית, גישת ה"ניווט" בווידאו מזכירה עקרונות דומים ליכולות agentic שגוגל ואחרות משלבות במודלים לשימושים אחרים — כמו גלישה או חיפוש במסמכים ארוכים — שבהם המודל בוחר אקטיבית אילו חלקי מידע לשלוף במקום לעבד הכול מראש.

חשוב לציין: המקור הזמין אינו מפרט אילו גרסאות מדויקות של Gemini Flash כוללות את היכולת, מתי היא תהיה זמינה למפתחים באופן רחב, או אם יש שינוי מקביל במחירון ה-API. פרטים אלה, אם וכאשר יתפרסמו, יחייבו עדכון נפרד.