אנתרופיק נותנת לגורם מבקר חיצוני "גישה כמו לעובד", והוא יוכל לפרסם ממצאים בלי אישורה

אנתרופיק, החברה שמפתחת את מודלי ה-AI ממשפחת Claude, העניקה לגוף פיקוח חיצוני גישה פנימית שמתוארת כגישה "כמו של עובד". הפרט הבולט בהסדר הוא שהגוף המבקר יוכל לפרסם את ממצאיו בלי לקבל את אישורה של אנתרופיק. כלומר, לחברה הנבדקת אין זכות וטו על מה שייאמר עליה בפומבי.

מה החידוש כאן

בתעשיית ה-AI מקובל שחברות מזמינות בדיקות חיצוניות למודלים שלהן, למשל בדיקות בטיחות לפני השקה או ניסיונות מכוונים "לשבור" את המודל (red teaming). בהסדרים כאלה הגישה של הבודקים מוגבלת בדרך כלל, והחברה שומרת לעצמה מידה של שליטה על התזמון ועל הניסוח של מה שמתפרסם. הסדר שבו הבודק מקבל גישה פנימית רחבה וגם חופש פרסום מלא מתקרב ככל הנראה יותר לביקורת עצמאית של ממש, ופחות לשיתוף פעולה שהחברה מנהלת.

השילוב בין שני הרכיבים הוא העיקר. גישה פנימית בלי חופש פרסום עלולה להפוך לביקורת שמסתיימת במגירה. חופש פרסום בלי גישה פנימית משאיר את המבקר לבחון רק את מה שהחברה בוחרת להראות לו. כשיש את שניהם, הבודק יכול לראות יותר וגם לספר על כך.

מה עדיין לא ידוע

בחומר שעומד לרשותנו אין פירוט מלא של תנאי ההסדר. לא ברור עד כמה הגישה רחבה בפועל: האם היא כוללת את המודלים עצמם, נתוני אימון, מסמכים פנימיים או שיחות עם צוותים. לא ברור גם אם יש מגבלות על פרסום מידע עסקי רגיש או מידע ביטחוני. הפרטים האלה יקבעו כמה מהותי ההסדר באמת, ושווה לעקוב אחריהם כשיתפרסמו.

למה זה חשוב

הוויכוח הציבורי על בטיחות AI נשען עד היום בעיקר על מידע שהחברות עצמן בוחרות לחשוף: דוחות טכניים, "כרטיסי מודל" (model cards) והודעות לעיתונות. הסדר שבו גורם חיצוני יכול לפרסם ממצאים בלי אישור עשוי לשנות את הדינמיקה הזו, לפחות אצל חברה אחת. כך יתקבל מקור מידע שהחברה לא מסננת.

המשמעות האפשרית היא גם לחץ על שאר המעבדות המובילות. אם ההסדר יעבוד ויפיק ממצאים אמינים, קשה יהיה להסביר מדוע חברות אחרות לא מאמצות מודל דומה. מצד שני, ערכו של הצעד ייבחן בפועל רק כשיתפרסמו הממצאים הראשונים, ובעיקר אם יהיו ביניהם ממצאים שלא מחמיאים לאנתרופיק. ביקורת עצמאית שווה משהו בעיקר כשהיא מוכנה לומר דברים לא נוחים.

עבור הקורא הישראלי, שמשתמש בכלים כמו Claude בעבודה ובחיי היומיום, השאלה רחבה יותר מאנתרופיק עצמה: מי בודק את מערכות ה-AI שאנחנו נשענים עליהן, ומי מחליט מה נדע על הבדיקות האלה.