אנתרופיק מזהירה מפני GLM-5.3: האם היתרונות של מודלי AI פתוחים שווים את הסיכון?

בסוף החודש שעבר פרסמה אנתרופיק דוח שלפיו מודל השפה GLM-5.3 מהווה סיכון משמעותי למתקפות סייבר. את המודל השיקה באוגוסט החברה הסינית Z.ai. לפי ניתוח של MIT Technology Review, החשש המרכזי בדוח אינו רק עוצמת המודל, אלא העובדה שכל אחד יכול להוריד אותו ולשנות אותו בחופשיות.

הדוח הוא הצעד האחרון בוויכוח ותיק: האם מודלי AI מתקדמים צריכים להיות פתוחים, כמו GLM-5.3, או להישאר סגורים בתוך המעבדות שמפתחות אותם?

כסף גדול על הכף

לפי MIT Technology Review, הוויכוח מתנהל היום במידה רבה בפומבי, ומונחים בו סכומי כסף גדולים. ג'נסן הואנג, מנכ"ל אנבידיה, קורא בהתלהבות לארצות הברית לפתח עוד מודלים פתוחים. לחברה שלו יש מה להרוויח אם אנשים ימשיכו לקנות חומרה כדי להריץ מודלים כאלה בעצמם. מנגד, דריו אמודיי, מנכ"ל אנתרופיק, תומך בגישה זהירה יותר. את החברה שלו עלולים לערער מודלים זולים וחזקים.

אבל מעבר לאינטרסים המסחריים, יש במחלוקת גם תוכן אמיתי. "הרבה מהעמדה שלך בוויכוח על פתיחות מושפעת מהעמדה שלך בוויכוח על AI", אומר דיוויד גריי וידר, פרופסור-עוזר בבית הספר למידע של אוניברסיטת טקסס באוסטין. מי שעוסקים בבטיחות AI מזהירים שגורמים זדוניים יכולים לנצל מודלים פתוחים בקלות. מי שמתמקדים בפוטנציאל המעשי של הטכנולוגיה טוענים שאסור שהכוח הזה יישאר בידי כמה חברות גדולות, ושמודלים פתוחים יכולים לפזר אותו באופן רחב יותר.

מה ההבדל בין מודל פתוח לסגור

למודל סגור, כמו המודלים שמפעילים את ChatGPT ואת Claude, אפשר לגשת רק דרך אתר, אפליקציה או API (ממשק תכנותי). מודל פתוח אפשר להוריד ישירות: המשקלים שלו (weights), רצף ארוך של מספרים שמקודד את המבנה הפנימי של המודל, זמינים לציבור. לכן מכנים אותם לעיתים "open-weight models", כדי להבחין בינם לבין מודלים שמפורסם עליהם מידע רב יותר, למשל פרטים על תהליך האימון.

כרגע המודלים הסגורים חזקים יותר. נכון למועד פרסום הניתוח, שמונת המודלים המובילים בדירוג Artificial Analysis הם כולם סגורים. עם זאת, המודלים הפתוחים מפגרים אחריהם רק בכמה חודשים.

למי זה חשוב

חוקרים באקדמיה כמעט אינם יכולים לוותר על מודלים פתוחים. מול מודל סגור הם יכולים בעיקר לשלוח שאלות ולבחון את התשובות. במודל פתוח הם יכולים לבחון את המנגנונים הפנימיים ואת "שרשרת המחשבה" שבה המודל פותר בעיה לפני שהוא עונה. הם יכולים גם לשלב כמה מודלים למערכת חדשה, לכווץ אותם כדי שירוצו ביעילות רבה יותר, ולבצע להם fine-tuning (התאמה ממוקדת) לשימושים חדשים.

גם לעסקים יש סיבות להעדיף מודלים פתוחים. לפי דוח שפרסמה לאחרונה Mozilla, הם בדרך כלל זולים יותר ממודלים סגורים, גם כשספק חיצוני מריץ אותם. ארגון שמעבד מידע רגיש או קנייני יכול להריץ מודל על החומרה שלו, וזו עשויה להיות הדרך הבטוחה ביותר לשמור על המידע.

שאלה של שליטה

ייתכן שהטיעון החשוב ביותר בעד מודלים פתוחים הוא שהם מאתגרים את השליטה ההדוקה של המעבדות המובילות. "הטיעון הברור והגדול ביותר הוא מניעת ריכוז כוח המוני, כלומר לוודא שהטכנולוגיה הבסיסית הזו היא נכס ציבורי", אומרת אליזבת סגר, יועצת מדיניות בכירה במכון טוני בלייר לשינוי גלובלי. "אנחנו בצומת שבו השאלה מי שולט בתשתית שמאפשרת ל-AI לפעול גדולה בדיוק כמו השאלה מי שולט במידע באינטרנט".

המשמעות

בין איסור מוחלט לבין שחרור חופשי לגמרי יש מגוון של דרכי פעולה. לפי MIT Technology Review, כל גישה שממשלה או החברה בכללותה תבחר תחייב איזון בין בטיחות לבין הנגשה רחבה של הטכנולוגיה. הדוח של אנתרופיק ממחיש ככל הנראה עד כמה קשה להפריד בין שני הצדדים: הזהרה מפני סיכון בטיחותי אמיתי באה גם מחברה שמודלים פתוחים וזולים מאיימים על המודל העסקי שלה. מקבלי החלטות יצטרכו כנראה לבחון את הטיעונים לגופם, בלי קשר לזהות מי שמשמיע אותם.