גוגל משיקה את Gemini Decisions: מודל שלא כותב תשובות, אלא מחליט, ב-0.10 דולר למיליון טוקני קלט

גוגל הציגה היום (11 בנובמבר) את Gemini Decisions API, ממשק חדש למפתחים שמבוסס על מודל חדש בשם Gemini Decision 1 (gemini-decision-1). זה לא עוד צ'טבוט. המודל לא נבנה כדי לכתוב תשובות, אלא כדי לקבל החלטות מהירות מתוך סט אפשרויות סגור. הוא מקבל טקסט, תמונות, אודיו, וידאו וקובצי PDF. המחיר הוא 0.10 דולר למיליון טוקנים של קלט, וטוקני הפלט לא מחויבים בכלל.

מה זה בעצם עושה

מודל שפה רגיל מייצר תשובה מילה אחר מילה, או ליתר דיוק טוקן אחר טוקן. לפי ההודעה של גוגל, Gemini Decision 1 עובד אחרת. הוא מקבל את אפשרויות התשובה מראש ומדרג את כולן במעבר יחיד דרך המודל (single forward pass). בתמורה הוא מחזיר הסתברויות וציון ביטחון בין 0 ל-1 לכל תשובה.

הממשק תומך בשלושה סוגי שאלות:

• כן/לא: מה ההסתברות שתנאי מסוים מתקיים.
• בחירה מרובה: בחירה מתוך 2 עד 255 אפשרויות, עם הסתברות לכל אחת מהן.
• דירוג לפי סולם (rubric): ציון רציף על פני סולם מדורג, עם הסתברות לכל רמה.

אפשר לשלוח קלט אחד בהיקף של עד 256 אלף טוקנים ולשאול עליו עד 1,000 שאלות בבקשה אחת. אפשר גם לשלב בין סוגי מדיה בקלט אחד. גוגל מביאה כדוגמה הקלטה של שיחה עם נתוני החשבון של הלקוח, או טופס תביעה סרוק עם תמונות של הנזק. בדוגמת הקוד שפרסמה החברה, המערכת בודקת תמונה של משטח במטבחון משרדי ועונה על שלוש שאלות במכה אחת: האם יש על המשטח נוזל שנשפך ולא נוקה, איזו פעולת ניקוי מתאימה ועד כמה המצב חמור.

מהירות ומחיר

לפי גוגל, זמן התגובה הכולל עומד על 150 עד 250 אלפיות השנייה, ומתוכם 50 עד 100 אלפיות שנייה הם זמן החישוב של המודל. הנתונים האלה נמדדו בקלטים של עד 16 אלף טוקנים, ולדברי החברה הם נשארים כמעט קבועים גם כשמספר השאלות בבקשה עולה מאחת למאה. גוגל טוענת עוד שעל חבילת מבחני ההשוואה שלה השימוש ב-Decision 1 זול כמעט פי חמישה מאשר ב-Gemini 3.5 Flash-Lite דרך Interactions API.

החברה מוסיפה שבמבחנים של ניתוב סוכנים, הסקה, דירוג והבנה מולטימודלית, המודל מוביל ושגיאת הכיול (calibration) שלו היא הנמוכה ביותר. כיול טוב פירושו שכשהמודל אומר שהוא בטוח ב-90%, הוא אכן צודק בערך ב-90% מהמקרים. חשוב לציין שמדובר בנתונים של גוגל עצמה, ובשלב זה הם עוד לא נבדקו באופן עצמאי.

המודל זמין דרך Gemini API ב-Google AI Studio, עם מדריכים ל-Python, ל-JavaScript ול-REST.

למה זה חשוב

הרבה מהעבודה שמערכות AI עושות היום בפועל היא לא כתיבה, אלא החלטות קטנות: לאיזה מודל לנתב שאילתה, באיזה כלי סוכן צריך להשתמש, האם תוכן מפר מדיניות, האם מסמך רלוונטי לשאלה. כשמשתמשים לשם כך במודל שפה מלא, משלמים ומחכים גם על טקסט שאף אחד לא צריך. ככל הנראה, גוגל מנסה להפוך את ההחלטות האלה לרכיב תשתיתי זול ומהיר משלו.

ציון הביטחון הוא כנראה הפרט החשוב ביותר כאן. גוגל עצמה מציינת שאפשר להשתמש בו כדי להעביר מקרים עמומים למסלול גיבוי או לבודק אנושי. אם הכיול יעמוד בהבטחה גם מחוץ למבחנים של החברה, מערכות אוטומטיות יוכלו לדעת מתי הן לא יודעות, וזה בדיוק אחד החסמים המוכרים בהטמעת AI בארגונים.