Heretic 2.0: הכלי הפתוח להסרת צנזורה ממודלי שפה הופך לערכה כללית לשינוי התנהגות של מודלים
Heretic, כלי open source שמסיר את הסירובים ממודלי שפה בלי לאמן אותם מחדש, יצא בגרסה 2.0. הגרסה החדשה מאפשרת גם לצמצם חנפנות, הומור וטקסט גנרי, וכל משתמש יכול לכתוב לה תוספים משלו. הכל רץ על מחשב גיימינג ביתי, ולכן עולה שוב השאלה מי בעצם שולט בהתנהגות של מודלים פתוחים.
Heretic, כלי open source לשינוי התנהגות של מודלי שפה, יצא בגרסה 2.0. הכלי מוכר בעיקר כדרך להסיר את ה"צנזורה" ממודלים, כלומר לגרום להם להפסיק לסרב לבקשות. בעמוד הפרויקט ב-GitHub הוא מוצג כעת ככלי רחב יותר, שמאפשר "לשנות, ולא רק להריץ" מודלי שפה. לפי העמוד, את כל זה אפשר לעשות "באחר צהריים אחד, על מחשב הגיימינג שלך".
בהודעת ההשקה כתב המפתח שהגרסה פותחה במשך כמעט חמישה חודשים. לדבריו, לפרויקט יש 37 אלף כוכבים ב-GitHub, וב-Hugging Face פורסמו יותר מ-8,500 מודלים שנוצרו בעזרתו ונרשמו להם 88 מיליון הורדות בסך הכל. את הנתונים האלה לא אימתנו באופן עצמאי. עמוד הפרויקט עצמו מסתפק בניסוח זהיר יותר: הקהילה יצרה ופרסמה "אלפי מודלים" בעזרת הכלי.
איך זה עובד
רוב השינויים בהתנהגות של מודל נעשים בדרך כלל באימון נוסף, תהליך שדורש כוח מחשוב רב. Heretic לא מאמן את המודל. לפי התיעוד, הוא משתמש בשיטות מתמטיות שמכוונות את התנהגות המודל לפי השוואה בין דוגמאות של פרומפטים מנוגדים. השיטה הקלאסית בתחום נקראת directional ablation, או בכינויה "abliteration". בגדול, מאתרים בתוך המודל את ה"כיוון" שאחראי לסירובים ומנטרלים אותו.
בגרסה 2.0 שיטת ברירת המחדל היא Arbitrary-Rank Ablation (ARA), שפותחה במיוחד עבור Heretic. כדי לבחור את הפרמטרים, הכלי מריץ אופטימיזציה אוטומטית שמבוססת על הספרייה Optuna. ברירת המחדל היא לשאוף לשני יעדים במקביל: שיעור סירובים נמוך, ושינוי קטן ככל האפשר בהתנהגות הכללית של המודל, שנמדד במדד KL divergence.
השינוי המרכזי בגרסה הוא מנגנון התוספים (plugins). מעבר להסרת סירובים, הפרויקט מספק קובצי הגדרות מוכנים לצמצום "slop" (טקסט גנרי ושחוק), להפחתת הומור, לצמצום חנפנות (sycophancy) ולשינוי ה"כיוונון הרגשי" של המודל. משתמשים יכולים גם לכתוב "scorers" משלהם: פונקציות ניקוד שמגדירות לכלי אילו התנהגויות לחזק ואילו להחליש, בלי לגעת בקוד של החבילה עצמה. קובצי הגדרות מגרסה 1.x לא עובדים בגרסה 2.x, והפרויקט מספק מדריך מעבר.
לפי התיעוד, כדי להשתמש בכלי לא צריך להבין איך מודלי שפה עובדים מבפנים. מספיקה פקודת התקנה אחת ופקודה נוספת עם שם המודל. הכלי תומך ברוב המודלים מסוג dense, כולל מודלים מולטימודליים רבים, בכמה ארכיטקטורות MoE ובמודלים היברידיים. בכרטיס RTX 3090, עיבוד של המודל Qwen3-4B-Instruct-2507 בהגדרות ברירת המחדל לוקח כ-30 עד 40 דקות. בסוף התהליך אפשר לשמור את המודל, להעלות אותו ישירות ל-Hugging Face, לשוחח איתו או להריץ עליו מבחני ביצועים. לפי עמוד הפרויקט, מודלים שעובדו ב-Heretic נבדקו באופן עצמאי במבחנים מקובלים כמו MMLU ו-GSM8K, ותוצאותיהם היו טובות לעומת כלי abliteration מתחרים.
למה זה חשוב
כשחברות משחררות מודל עם משקולות פתוחים, הן מטמיעות בו בדרך כלל מנגנוני סירוב ובטיחות. Heretic מראה עד כמה קל להסיר את השכבה הזו אחרי השחרור: אין צורך באימון ובחוות שרתים, ומספיק מחשב ביתי. המשמעות ככל הנראה היא שבמודלים פתוחים, ההחלטה איך המודל יתנהג עוברת מהחברה שפיתחה אותו למי שמוריד אותו.
למגמה הזו יש שני צדדים. חוקרים ומפתחים יכולים לנטרל סירובים מיותרים או את החנפנות המוכרת של צ'טבוטים, ולהתאים מודלים לצרכים שלהם. אבל אותו מנגנון מסיר גם הגנות שנועדו למנוע שימוש לרעה. גרסה 2.0 מרחיבה את הכלי מעבר לסירובים, ולכן סביר שהדיון לא יעסוק רק בצנזורה. השאלה הרחבה יותר היא אם התנהגות של מודל פתוח אחרי השחרור עדיין נמצאת בשליטת מי שפיתח אותו.