Opera מציגה את WebAI: תקן ווב חדש להרצת מודלי AI מקומית בדפדפן

חברת הדפדפנים Opera הציגה תקן ווב חדש בשם WebAI, שמאפשר למשתמשים להריץ מודלים של בינה מלאכותית ישירות בתוך הדפדפן, בלי להסתמך על הענן. לפי החברה, המידע שהמודל המקומי מעבד נשאר על המכשיר של המשתמש ולא עובר לשרתים של חברה כלשהי, כך דווח ב-TechCrunch.

מודלים פתוחים, לא מודל אחד

WebAI אינו קשור למודל מסוים. Opera מציינת כדוגמה את Gemma של גוגל, מודל open-weight, כלומר מודל שהמשקולות שלו (הפרמטרים שהמודל למד באימון) פתוחים לציבור. במחשבי Mac התקן תומך גם במודל הבסיס של אפל שרץ על המכשיר עצמו. לדברי החברה, WebAI בנוי לתמוך במגוון רחב של מודלים מסוג open-weight.

לפי הדיווח, מודלים כאלה בדרך כלל חינמיים להורדה ולשימוש, וזמינות המשקולות נותנת למפתחים יותר חופש להתאים אותם לצרכיהם. עם זאת, בניגוד לתוכנת open source מלאה, על מודלים מסוג open-weight עדיין חלות מגבלות מסוימות.

לדברי Opera, בעזרת WebAI אפשר לייצר טקסט, לסווג תוכן ולהבין איך פיסות מידע קשורות זו לזו, והכול בתוך הדפדפן.

זמינות: תצוגה מוקדמת, בהסכמה בלבד

התקן צמח מעבודה קודמת של Opera על הרצת מודלים מקומיים בדפדפנים שלה. בשלב זה הוא זמין כגרסת תצוגה מוקדמת (early preview) בדפדפן הדגל של החברה, Opera One. החברה מסרה שבקרוב הוא יגיע גם ל-Opera GX, הדפדפן שמיועד לגיימרים ולסטרימרים, ול-Opera Neon, הדפדפן שמבצע משימות בעזרת סוכני AI. ההפעלה אינה אוטומטית: המשתמשים צריכים לבחור להצטרף לפיצ'ר.

מה יוצא מזה למפתחים ולמשתמשים

בהודעה הרשמית מסבירה Opera את ההיגיון: "מפתחים יכולים להוסיף יכולות AI בלי להפעיל תשתית AI ובלי לשלם על כל בקשה. משתמשים לא צריכים מנויי AI, המידע שה-AI המקומי מטפל בו נשאר על המכשיר שלהם, והם נשארים בשליטה על ה-AI שבמחשב שלהם."

המשמעות, ככל הנראה, נוגעת לשני צדדים. בעל אתר שרוצה להוסיף לאתר, למשל, סיכום אוטומטי או סיווג תוכן, יכול לעשות את זה בלי לשלם לספק ענן על כל קריאת API. המשתמש מצדו מקבל את היכולת בלי מנוי ובלי למסור את המידע שלו.

פרטיות, במחיר של כוח עיבוד

הפרטיות הולכת ונעשית נושא מרכזי ככל שעוזרי AI נעשים חזקים יותר ומקבלים גישה למידע אישי. משתמשים רבים מוסרים לצ'אטבוטים כמויות גדולות של מידע, לא תמיד מתוך הבנה ברורה של האופן שבו הוא נשמר או נעשה בו שימוש. מודל שרץ מקומית מציע חלופה, כי העיבוד מתבצע במכשיר של המשתמש ולא בשרת ענן. לפי TechCrunch, זה לא מבטל כל סיכון פרטיות, אבל נותן למשתמשים קצת יותר שליטה. Opera עצמה הציגה את הפרטיות לאורך השנים כאחד מיתרונותיה העיקריים, כך שהמהלך משתלב באסטרטגיה הקיימת שלה.

לגישה הזאת יש גם מחיר. הרצת מודלים מקומית מעמיסה על המחשב ועלולה לפגוע בביצועים, ו-Opera עצמה מציינת שביצועי המודל תלויים בחומרה של המכשיר. לכן סביר שהחוויה תשתנה מאוד בין מחשב נייד חדש וחזק למחשב ישן.

בשורה התחתונה, Opera מנסה למקם את הדפדפן כפלטפורמה ל-AI ולא רק כחלון לשירותי ענן. אם מפתחי אתרים יאמצו את WebAI, זה עשוי להפוך לחלופה ממשית למודל המנויים ששולט היום בשוק. בינתיים מדובר בגרסה מוקדמת, ומידת האימוץ שלה עדיין לא ידועה.