שירות מסחרי מסיר מנגנוני בטיחות ממודלי AI פתוחים — ומעורר חשש לשימוש לרעה

חברת סטארטאפ אמריקאית בשם Abliteration.ai מציעה שירות מסחרי שמסיר ממודלי שפה פתוחי-משקל (open-weight) את מנגנוני הסירוב המובנים שלהם, ומעמידה גישה למודלים ה"משוחררים" הללו דרך API בתשלום. הטכניקה, הקרויה abliteration, מזהה דפוסי הפעלה (activation patterns) פנימיים במודל שמפעילים סירוב לבקשות מסוימות, ומשנה את משקלי המודל כדי לדכא דפוסים אלה. בניגוד ל-jailbreak באמצעות ניסוח פרומפט, מדובר בשינוי של המודל עצמו — כך שהוא מסרב הרבה פחות לבקשות רגישות, כפי שדיווח The Decoder.

בסוף אוגוסט השיקה החברה את הגרסה השנייה של המוצר, "abliterated-model-large-v2", המבוססת על המודל GLM-5.3 של חברת Z.AI הסינית. הגרסה הקודמת, "abliterated-model-large", התבססה על GLM-5.2. לפי Abliteration.ai, גרסאות מוקדמות יותר של GLM אומנו במכוון כך שיהיה קשה יותר להשתמש בהן לעבודות אבטחה מעשיות. Z.AI מצידה כתבה שיכולות הסייבר של GLM-5.3 התפתחו מהר מהצפוי בשלב שלאחר האימון הראשוני (post-training). הרישיון של Z.AI מתיר שינויים, גרסאות נגזרות והצעת "Model as a Service" מסחרית — מה שמאפשר ל-Abliteration.ai לשנות את GLM-5.3, לארח אותו ולמכור גישה אליו. ל-GLM יש גם חלופות פתוחות מתחרות מבית Qwen, DeepSeek ו-Mistral.

Abliteration.ai מפרסמת השוואת ביצועים עצמית מול מודלים מתחרים בשלושה מבחני מידה (benchmarks): 84.5% ב-CyberGym, 41.8% ב-Terminal-Bench 4.0, ו-105 משימות שנפתרו במבחן ExploitGym תוך שעתיים. עם זאת, בטבלה של החברה עצמה GPT-5.5 מוביל ב-CyberGym עם 85.6%, ו-GPT-5.6 Sol ו-Fable 5 מקבלים ציונים גבוהים משמעותית ב-ExploitGym. החברה עצמה מציינת שהציונים הושגו במסגרות בדיקה (harnesses) ותקציבי חישוב שונים, מה שמגביל את יכולת ההשוואה הישירה ביניהם.

מבחינה טכנית, abliteration אינו חידוש: מפתחים מפרסמים מודלים "משוחררים" באתר Hugging Face כבר שנים, בדרך כלל להורדה חופשית. מה שמייחד את Abliteration.ai הוא שהיא אינה מפרסמת את המשקלים המשונים להורדה, אלא מארחת ומפעילה אותם בעצמה — כך שלקוחות אינם זקוקים לתשתית GPU משלהם כדי להשתמש במודל. מחיר הגישה למודל המבוסס על GLM-5.3 עומד על 5 דולר למיליון טוקנים (יחידות טקסט) של קלט או פלט, במחיר הסטנדרטי.

החברה משווקת את השירות לצורכי אבטחת סייבר התקפית, בדיקות red teaming לבינה מלאכותית, בדיקת סוכני AI (agents) ועבודת trust and safety — כולל שחזור פרצות אבטחה ידועות, בניית הוכחות היתכנות (proof-of-concept) לניצול פרצות, ניתוח תוכנות זדוניות וסימולציית התקפות פישינג. מייסד אנונימי של החברה אמר בפודקאסט ThursdAI כי הביקוש המוקדם הגיע בעיקר מחברות שבודקות סוכני AI המופעלים בידי ארגונים גדולים ובנקים.

המשמעות: מודל זמין דרך API, בלי צורך בהורדת קבצים כבדים או בתשתית חומרה יקרה, מוריד את סף הכניסה הן לשימושים לגיטימיים בתחום אבטחת המידע והן, ככל הנראה, לשימוש לרעה. עצם קיומו של שירות "טורקי" (turnkey) — גישה מיידית וזולה יחסית למודל שמסרב פחות — הוא כנראה מה שמדאיג בסיפור הזה יותר מהטכניקה עצמה, שקיימת כבר שנים בקהילת הקוד הפתוח: מי שרוצה לייצר תוכן מזיק, כמו קוד זדוני, כבר לא צריך ידע טכני להורדה והפעלה של מודל משוחרר בעצמו — רק כרטיס אשראי וגישה לאינטרנט.