בכיר באנתרופיק: "מעצם ההגדרה, יש יותר סיכון" במודלים בקוד פתוח

גיום פרינסן (Guillaume Princen), ראש התחום הבינלאומי באנתרופיק, אמר היום (רביעי) שלחלופות הפתוחות למודלים של החברה יש "יותר סיכון" לתקריות סייבר ולסכנות אחרות. הדברים נאמרו בראיון ל-Bloomberg TV בכנס International AI Summit בדבלין.

"אנחנו צריכים להיזהר מאוד עם קוד פתוח בכל הנוגע לבטיחות", אמר פרינסן. "אני לא יכול לדבר בשם המודלים הפתוחים. אבל מעצם ההגדרה, יש בהם יותר סיכון".

לפי בלומברג, פרינסן הוא בכיר המכירות הבכיר ביותר של אנתרופיק מחוץ לארצות הברית. כלומר, מדובר באיש מסחרי ולא בחוקר בטיחות, וההבדל הזה חשוב כשבוחנים את דבריו.

עמדה של צד מעוניין

אנתרופיק, שרשומה כ-Public Benefit Corporation (תאגיד לתועלת הציבור), מפתחת את משפחת המודלים Claude ומציעה אותם כמוצר סגור: משתמשים וחברות ניגשים אליהם דרך אפליקציה או API, אבל המשקולות של המודל, הפרמטרים שנלמדו באימון ושמגדירים את התנהגותו, לא מתפרסמות. מודלים פתוחים, לעומת זאת, משוחררים לציבור. כל אחד יכול להוריד אותם, להריץ אותם על השרתים שלו ולשנות אותם.

הטענה של פרינסן מבוססת ככל הנראה על ההיגיון שחוזר בוויכוח הזה כבר כמה שנים: כשמודל רץ אצל החברה שפיתחה אותו, היא יכולה לנטר את השימוש בו, לחסום בקשות מסוכנות ולעדכן את מנגנוני ההגנה. כשהמשקולות זמינות לכולם, השליטה הזאת נעלמת, ומי שרוצה יכול לנטרל את מנגנוני הבטיחות.

אבל זו לא עמדה מוסכמת. תומכי המודלים הפתוחים טוענים בדרך כלל שגישה פתוחה מאפשרת לחוקרים חיצוניים לבדוק את המודלים ולמצוא בהם חולשות, מצמצמת את ריכוז הכוח בידי כמה חברות גדולות, ומאפשרת לארגונים להריץ AI בלי לשלוח מידע רגיש לשרתים של מישהו אחר. גם התעשייה עצמה חלוקה: לצד חברות שמפתחות מודלים סגורים, חברות כמו מטא ועליבאבא שחררו מודלים פתוחים שמשמשים מפתחים רבים.

ובהקשר הזה יש גם אינטרס. מודלים פתוחים הם חלופה זולה, ולפעמים חינמית, למוצרים שאנתרופיק מוכרת. כשבכיר מכירות של חברה שמוכרת מודלים סגורים אומר שהמתחרים הפתוחים מסוכנים יותר, קשה להפריד בין הערכת סיכונים לבין עמדה עסקית. זה לא אומר שהטענה שגויה, אבל כדאי לקרוא אותה כעמדה של החברה ולא כממצא ניטרלי.

פרינסן עצמו הסתייג חלקית כשאמר שהוא "לא יכול לדבר בשם המודלים הפתוחים". בדברים שלו שצוטטו בדיווח לא מופיעים נתונים או מקרים ספציפיים שמראים שמודלים פתוחים גרמו ליותר תקריות.

למה זה חשוב

השאלה אם לשחרר מודלי AI חזקים לציבור היא לא רק ויכוח פילוסופי. יש לה השלכות על רגולציה, על תחרות ועל השאלה מי ישלוט בטכנולוגיה. סביר שאמירות של בכירים בחברות הגדולות, במיוחד בכנסים בינלאומיים שמשתתפים בהם גם קובעי מדיניות, ישפיעו על האופן שבו ממשלות יתייחסו למודלים פתוחים.

לקורא הישראלי, ולחברות וסטארט-אפים מקומיים שבונים מוצרים על מודלים פתוחים, המשמעות היא בעיקר להמשיך לעקוב: אם הטענה שמודלים פתוחים מסוכנים יותר "מעצם ההגדרה" תתקבל אצל רגולטורים, היא עלולה להשפיע על הגישה לכלים האלה בעתיד.