דיווח: אפל מקצצת את תקציב ה-AI היומי של צוותי ההנדסה שלה

אפל מצמצמת את הסכום שצוותי ההנדסה שלה יכולים להוציא מדי יום על כלי AI, כך דיווח TechCrunch בהסתמך על בלומברג. לפי הדיווח, החברה הורידה באוקטובר את תקרת ההוצאה היומית של צוותי ההנדסה מ-300 ל-200 דולר, ירידה של שליש. בכך לא מסתיים המהלך: מקורות שעמם שוחחה בלומברג מסרו שקיצוצים נוספים בדרך, ושחלק מהמכסות יירדו ל-100 דולר ביום.

ייתכן שהמהלך לא יוגבל למהנדסים. מחוץ למחלקות ההנדסה, על פי הדיווח, אפל שוקלת מגבלה יומית נמוכה בהרבה, שעשויה להגיע ל-25 דולר ביום. TechCrunch ציין שפנה לאפל לקבלת תגובה, והדיווח נשען בשלב זה על מקורות ולא על הודעה רשמית של החברה.

מה הסיבה?

הדיווח של TechCrunch אינו מביא הסבר של אפל לצעד ואינו מייחס לה נימוק מפורש. גם לא ברור ממנו באילו כלים מדובר, ואיך בדיוק מחושבת המכסה. ועדיין, ההקשר הרחב מספק הסבר אפשרי. TechCrunch מתאר את המהלך כשינוי משמעותי עבור חברה שפעלה לשלב את הטכנולוגיה בתהליכי ההנדסה שלה, ומציב אותו על רקע גל שנרשם מוקדם יותר השנה ושכונה tokenmaxxing: חברות דחפו את עובדיהן להשתמש ב-AI ככל האפשר, בשם שיפורי יעילות שהוגדרו באופן מעורפל.

טוקנים הם יחידות הטקסט שמודל שפה מעבד, ועל פיהן מתומחר בדרך כלל השימוש במודלים. לפי TechCrunch, ההתלהבות הייתה קצרת ימים: כשהגיעו החשבונות, חברות הגיעו למסקנה ש"קיצוב טוקנים" הוא גישה נבונה יותר מבחינה כלכלית. ככל הנראה אפל מצטרפת כעת למגמה הזו, אם כי אין אישור לכך מהחברה.

למה זה חשוב

המשמעות של המהלך חורגת מאפל. בשלב הראשון של אימוץ AI בחברות גדולות, השאלה הייתה כמה מהר אפשר להכניס את הכלים לעבודה היומיומית. המספרים המדווחים מאפל מרמזים שהשאלה משתנה: לא רק אם להשתמש, אלא כמה זה שווה. כשתקרה יומית יורדת, מי שמשתמש בכלים נדרש ככל הנראה לבחור יותר היכן ה-AI מצדיק את עלותו, במקום להפעיל אותו כברירת מחדל.

הפער בין המכסות מעניין גם הוא. אם המגבלה של 25 דולר אכן תיושם מחוץ להנדסה, פירוש הדבר הוא שאפל מעריכה ככל הנראה שהערך של כלי AI גבוה יותר אצל מהנדסים מאשר אצל עובדים אחרים.

ברקע נותרת השאלה הגדולה יותר, שעליה מצביע גם TechCrunch: הפער לכאורה בין העלות של בנייה והפעלה של AI לבין שיפורי הפריון שהטכנולוגיה אמורה להביא, ושלעתים קרובות אינם ברורים. אם גם חברה בסדר הגודל של אפל מגבילה את ההוצאה, ייתכן שחברות אחרות יידרשו להוכיח תשואה על השימוש בכלים האלה, ולא רק למדוד כמה משתמשים בהם.