עליבאבא השיקה את Qwen4-Max: לטענתה מוזיל משימות ב-60% ונטול יכולות תקיפת סייבר
עליבאבא השיקה את Qwen4-Max, המודל המתקדם ביותר שלה עד כה, ולדבריה הוא מוזיל את עלות ביצוע המשימות ב-60%. החברה מסרה שסיננה בכוונה את נתוני האימון כדי להסיר מהמודל יכולות תקיפת סייבר, על רקע חשש עולמי גובר ממתקפות בסיוע AI. זו הגבלה שנעשית כבר בשלב האימון, ולא רק בחסימת בקשות אחרי שהמודל כבר יודע לבצע אותן.
עליבאבא השיקה את Qwen4-Max, המודל המתקדם ביותר שלה עד כה, ולדבריה הוא מוזיל את עלות ביצוע המשימות ב-60% ומגיע עם מגבלות סייבר מחמירות. כך דיווח South China Morning Post.
הסינון נעשה כבר בנתוני האימון
הפרט החריג בהשקה הוא הדרך שבה עליבאבא מגבילה את המודל. לפי הדיווח, החברה מסרה שסיננה בכוונה את נתוני האימון של Qwen4-Max כדי להסיר ממנו יכולות של תקיפת סייבר, ושמרה על שאר יכולותיו.
זו גישה שונה מהמקובל. רוב מנגנוני הבטיחות במודלי שפה פועלים אחרי האימון: המודל יודע לעשות את הדבר, ושכבת סינון מסרבת לבקשות בעייתיות. מנגנון כזה אפשר לעקוף בניסוח מתוחכם. מודל שלא למד את החומר מלכתחילה אמור, לפחות בתיאוריה, להיות קשה יותר לניצול. המחיר האפשרי הוא שגם חוקרי אבטחה וצוותי הגנה, שנעזרים באותו ידע בדיוק, יקבלו ממנו פחות. עליבאבא טוענת שהיכולות האחרות לא נפגעו, אבל הקטע שבידינו מהדיווח אינו כולל נתונים שמאפשרים לבדוק זאת.
בין קוד פתוח לבטיחות
לפי SCMP, עליבאבא מנסה לאזן בהשקה בין בטיחות AI לבין המחויבות המתמשכת שלה לקוד פתוח, כלומר לפרסום מודלים שכל אחד יכול להוריד, להריץ ולשנות. המתח כאן מובנה: מודל שמשוחרר לציבור יוצא משליטת החברה, ואי אפשר לחסום בו בקשות בצד השרת. ככל הנראה זו הסיבה שהחברה בחרה להסיר את היכולת מהמודל עצמו במקום להסתמך על מסננים חיצוניים. מהקטע שבידינו לא ברור אם Qwen4-Max עצמו שוחרר כמודל פתוח.
ההשקה מגיעה, לפי הדיווח, על רקע חשש עולמי גובר ממתקפות סייבר בסיוע AI, והיא מעידה על כך שתעשיית ה-AI בסין שמה דגש גדל על בטיחות.
מה לא ידוע על ההוזלה
הקטע שבידינו אינו מפרט ביחס למה נמדדה ההוזלה של 60%: מודל קודם של עליבאבא, מודלים מתחרים או סוג מסוים של משימות. הוא גם לא כולל מחירון. הנתון הוא טענה של החברה, וכדאי להתייחס אליו כך עד שיתפרסמו מדידות עצמאיות.
הניסיון של עליבאבא יעמוד למבחן כשחוקרים חיצוניים יבדקו אם המודל באמת אינו מסוגל לסייע בתקיפה, ואם אימון נוסף עליו מחזיר את היכולת שהוסרה.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות