ה"אבליטרטורים": המפתחים שמסירים ממודלי AI את היכולת לסרב

צ'טבוטים כמו ChatGPT ו-Claude מסרבים לענות על לא מעט שאלות, ויש מי שמאסו בזה. כתבה ב-Wired מתארת תת-תרבות של מהנדסים שמסירים את מנגנוני הבטיחות ממודלי AI פתוחים ומפיצים את הגרסאות ה"משוחררות" ברשת. אחד מהם, דבון תומאס, הקים חברה בשם Abliteration AI, שמסירה את ההגנות מהמודלים החזקים ביותר מסוג open-weight (מודלים שהמשקלות שלהם, כלומר הפרמטרים הפנימיים, זמינים להורדה חופשית) ומנגישה אותם לכל אחד.

ממהנדס באפל למורד

תומאס, בן 36, גדל באינדיאנה, למד מדעי המחשב באוניברסיטת אינדיאנה בבלומינגטון והצטרף לאפל ב-2020. לפי Wired, בעבודתו היומיומית כמהנדס הוא עבד עם AI, אבל בזמנו הפנוי לא אהב להשתמש במודלים שמתארחים אצל המעבדות הגדולות. זה חייב אותו לשתף איתן מידע, והמודלים עצמם השתנו מיום ליום. מה שהציק לו יותר מכול היה שהמודלים סירבו לבקשות שימושיות. כשניסה להיעזר במודל לניתוח לוגים של מתקפות סייבר, או לזיהוי משתמשים באפליקציה שסביר שישלמו על פיצ'ר חדש, הבקשות נחסמו ואפילו החשבון שלו נחסם.

תומאס בנה בדירתו אשכול מחשבים בעלות של 20 אלף דולר, שמסוגל להריץ כמה מהמודלים הפתוחים המובילים. אבל גם המודלים האלה מגיעים עם מגבלות מובנות, והם המשיכו לסרב. בסוף נובמבר 2025, בחופשת חג ההודיה, הוא התחיל לחפש דרכים לשנות את המודלים, ומצא קהילה שלמה ב-Reddit, ב-Discord וב-X. חלק מחבריה מחליפים ביניהם פרומפטים שנועדו "לפרוץ" (jailbreak) את ChatGPT ואת Claude. אחרים משתפים שיטות לשנות את הפרמטרים הפנימיים של מודלים פתוחים כך שהסירובים פשוט נעלמים.

"זה לא עניין של להיות בלי הגבלות; זה עניין של זה שאתה זה שקובע את המגבלות", אמר תומאס ל-Wired. "החלום הגדול הוא להפוך את יחסי השליטה בין אנשים ל-AI".

הצד האפל

ב-Wired לא מסתירים את הסיכון. מודל בלי מגבלות ישמח לעזור למי שרוצה להקים מעבדת מת'אמפטמין, לבנות פצצה או לפרוץ לתאגיד גדול. לכן חוקרי בטיחות רבים רואים במודלים כאלה סכנה של ממש. לפי הכתבה, גם התקריות האחרונות שבהן סוכני AI של OpenAI ושל אנתרופיק "יצאו משליטה" התרחשו כולן במודלים שהגבלות הסייבר שלהם היו מצומצמות יותר.

תומאס וחבריו מודים שמודלים לא מצונזרים עלולים להיות מסוכנים. לטענתם, זה לא שונה במהותו ממחשב או מפטיש, שגם הם עלולים לפגוע באנשים אם משתמשים בהם לרעה.

גם עניין עסקי

לוויכוח יש גם צד מסחרי. לפי Wired, מבקרים טוענים שחלק מהסירובים נועדו להגן על האינטרסים של החברות הגדולות. OpenAI ואנתרופיק גובות תוספת תשלום על גישה למודלים בלי מגבלות הסייבר הרגילות, ושני הצ'טבוטים נמנעים מלייצר נתונים שאפשר לאמן בעזרתם מודל אחר, תהליך שנקרא distillation (זיקוק).

למה זה חשוב

כתב Wired, שניסה בעצמו להסיר צנזורה ממודל, מסכם שה"מורדים" ככל הנראה מצביעים על משהו חשוב, אף שלמד על בשרו עד כמה AI לא מצונזר יכול להיות חזק וכאוטי.

המשמעות, ככל הנראה, היא שהוויכוח על בטיחות AI כבר לא מתנהל רק בתוך המעבדות. ברגע שמודל פתוח שוחרר לרשת, קשה לשלוט במה שייעשה בו. רגולציה שמתמקדת בחברות המפתחות עלולה לפספס את מי שמשנים את המודלים אחר כך. ומנגד, רגולציה קשוחה מדי עלולה לפגוע גם במשתמשים לגיטימיים, כמו חוקרי אבטחה שצריכים לנתח מתקפות.