כל מה שחם בעולם הבינה המלאכותית · בעברית
המהדורה שלי הפודקאסט הפיד החי בית הספר ל-AI הצטרפו לערוץ הטלגרםחברת Perplexity השיקה השבוע פיצ'ר בשם Hybrid Compute באפליקציית ה-Mac שלה, שמפצל משימה בודדת של סוכן AI בין מודלים חזקים בענן לבין מודל שרץ מקומית על המכשיר. המטרה: לאפשר לסוכנים לעבוד מול מסמכים רגישים - כמו קבצי עסקאות או מידע על לקוחות - בלי להעביר אותם לשרתי צד שלישי.
חברת החיפוש מבוססת ה-AI, Perplexity, השיקה השבוע פיצ'ר חדש בשם Hybrid Compute באפליקציית ה-Mac שלה, שמאפשר לסוכני AI לבצע משימות תוך שילוב בין עיבוד בענן לעיבוד מקומי על המכשיר עצמו. לפי הדיווח ב-MarkTechPost, המנגנון מפצל משימה בודדת של "Perplexity Computer" - כלי הסוכנים של החברה - בין מודלים חזקים ("frontier models") הרצים בענן לבין מודל שרץ מקומית, כאשר הגישה לנתונים על המכשיר "נשערת" (gated) מקומית.
לפי הכתבה, לסוכני AI אגנטיים יש בעיה מבנית: המידע שהופך אותם לשימושיים באמת - מסמכי עסקאות, קבצים חסויים, רשומות לקוחות - הוא בדיוק המידע שמשתמשים אינם יכולים, או אינם רוצים, לשלוח לשרת ענן חיצוני. עבור עורכי דין, אנשי כספים, יועצים עסקיים או כל מי שעובד עם חומר רגיש, שליחת מסמכים לענן כדי לקבל עזרה מסוכן AI מהווה סיכון פרטיות ולעיתים גם בעיה רגולטורית.
Hybrid Compute מנסה לגשר על הפער הזה על ידי כך שהחלק הרגיש של המשימה - זה שדורש גישה לקבצים המקומיים - מטופל על ידי מודל שרץ על המכשיר עצמו, בעוד שחלקים אחרים של אותה משימה יכולים עדיין להיעזר בעוצמת החישוב של מודלים גדולים יותר בענן.
ככל הנראה, המהלך של Perplexity משקף מגמה רחבה יותר בתעשיית ה-AI: הבנה שסוכנים אגנטיים לא יוכלו לחדור לשווקים ארגוניים ומקצועיים רגישים - עריכת דין, ייעוץ פיננסי, בריאות - כל עוד הם דורשים העברת נתונים חסויים לשרתים חיצוניים. גישת "hybrid" שמשלבת חישוב ענן וחישוב מקומי היא כיוון שגם חברות אחרות בתחום ה-AI בוחנות, בניסיון לאזן בין העוצמה של מודלים גדולים לבין הדרישה לפרטיות.
מבחינת המשתמש הבודד, המשמעות המעשית היא אפשרות לתת לסוכן AI גישה לתיקיות ומסמכים אישיים או עסקיים מבלי שהתוכן ייצא מהמחשב - לפחות עבור החלקים במשימה שהמודל המקומי מסוגל לטפל בהם.
יש לציין שהכתבה המקורית עוסקת בהשקה הראשונית של הפיצ'ר עבור מערכת macOS בלבד, וכרגע אין אישור לגבי הרחבה לפלטפורמות נוספות.