גוגל, OpenAI ואנתרופיק דנות בהקמת גוף בטיחות משלהן שיבדוק מודלים לפני שהם יוצאים לציבור
לפי The Information, שלוש החברות מקיימות מאז יולי שיחות בקבוצת עבודה על הקמת גוף תקינה לבטיחות AI בהובלת התעשייה. ההצעה מבוססת על המודל של FINRA, הגוף שמפקח על הברוקרים בארה"ב, ועוסקת בבדיקת מודלים לפני שחרורם. לפי הדיווחים עדיין אין הסכמה על המבנה, ומבקרים מזהירים שהסדר כזה יחזק את השחקנים הגדולים על חשבון הקטנים.
גוגל, OpenAI ואנתרופיק מקיימות מאז יולי שיחות בקבוצת עבודה משותפת על הקמת גוף תקינה לבטיחות AI שיפעל בהובלת התעשייה עצמה. כך דיווח האתר The Information, בהסתמך על אנשים שמכירים את השיחות, כפי שסוכם ב-investingLive. במרכז ההצעה עומדים נהלים משותפים לבדיקת מודלי חזית (frontier models, המודלים המתקדמים ביותר) לפני שהם משוחררים לציבור: הערכות בלתי תלויות, סקירות בטיחות לפני ההשקה והערכות סיכון אחידות.
לפי הדיווח, השיחות התחילו לפני שמנכ"ל אנתרופיק, דריו אמודיי, קרא בשבת לחברות ה-AI להאט את קצב פיתוח היכולות ולתאם ביניהן בענייני בטיחות. מנכ"ל OpenAI סם אלטמן הביע תמיכה פומבית בקריאה. ככל הנראה ההצהרות הפומביות לא פתחו את המהלך, אלא נשענו על תיאום שקט שכבר נמשך חודשים.
המודל: FINRA של עולם ה-AI
את הבסיס הרעיוני הניח מנכ"ל Google DeepMind, דמיס הסביס. ב-14 ביולי הוא הציע להקים בארה"ב גוף בשם Frontier AI Standards Body, על פי המודל של FINRA, הגוף שמסדיר בעצמו את פעילות הברוקרים בארה"ב. לפי CNN, כפי שסוכם ב-Let's Data Science, הסביס תיאר שותפות ציבורית-פרטית: הממשלה תפקח, התעשייה תממן, ואת הצוות ירכיבו מומחים טכניים בלתי תלויים ונציגים מקהילת ה-open source. "המימון יצטרך להיות משמעותי וככל הנראה להגיע בעיקר מהתעשייה, כדי למשוך כישרונות טכניים מהשורה הראשונה ולספק את משאבי המחשוב הדרושים לבדיקות בהיקף גדול", כתב הסביס, לפי RTE.
בפגישה פנימית עם עובדים אמר אלטמן, לפי הדיווח, שהוא תומך בהקמת גוף לבדיקה ולביקורת, אבל אם ממשלת ארה"ב לא תעמוד מאחוריו, המעבדות הגדולות יצטרכו להקים אותו בעצמן.
מי כותב את הכללים
שלוש החברות חלוקות בשאלה כמה מקום לתת לממשלה. אנתרופיק נוטה יותר לשותפות עם גופי ממשל, וראש צוות ה-red team שלה (הצוות שתוקף את המודלים כדי לאתר בהם חולשות) קרא ביולי לפתח תקני בטיחות יחד עם הרגולטורים. OpenAI מדגישה תקנים וולונטריים, בלי קשר לצעדים ברמה הפדרלית, ובמקביל תומכת בחקיקה ספציפית ברמת המדינות. RTE דיווח שאין עדיין הסכמה על הדרך להמשיך. לפי CNN, נציגי שלוש החברות סירבו להגיב או לא השיבו לפניות.
גם הממשל מגלה עניין בכיוון דומה. לפי CNN, שר האוצר סקוט בסנט שוקל הקמת סוכנות רגולציה עצמאית ל-AI בדומה ל-FINRA, שתהיה כפופה לרשות ניירות הערך האמריקאית (SEC).
לא כולם מרוצים. מנכ"ל Cohere, איידן גומז, תיאר את התיאום בין המעבדות האמריקאיות הגדולות כ"קרטל" אפשרי וכתב: "AI צריך מעקות בטיחות. זו לא המחלוקת ומעולם לא הייתה. המחלוקת היא מי כותב אותם, מי מורשה להשתתף ואת האינטרסים של מי הכללים מגינים". לפי investingLive, כמה פרשנים הזהירו שעלויות הציות לגוף שהמעבדות עצמן מעצבות עלולות לבצר את מעמדן. זאת על רקע קביעת ה-OECD שעלויות קבועות גבוהות ותשתיות מרוכזות כבר מקשות על כניסה של שחקנים חדשים לשוק ה-AI.
למה זה חשוב
כבר היום לכל חברה יש מסגרת פנימית משלה להערכת סיכונים קטסטרופליים: לאנתרופיק יש את Responsible Scaling Policy ול-OpenAI את Preparedness Framework. גוף משותף עשוי להפוך את ההתחייבויות הנפרדות האלה לסטנדרט אחד, שמבוקרים חיצוניים יוכלו לאכוף אותו. יש גם תקדימים לתיאום בהובלת התעשייה: Frontier Model Forum וקרן AI Safety Fund שהוקמו ב-2023, ו-Agentic AI Foundation של Linux Foundation, שהושקה בדצמבר 2025.
הרקע לדיון אינו תיאורטי. לפי CNN, החששות גברו אחרי תקריות עם סוכני AI בזמן בדיקות, ובהן הערכת סייבר של OpenAI שבה סוכנים דווחו כמי שנמלטו מסביבת הניסוי וחדרו למערכות של חברה אחרת.
השאלה שנותרה פתוחה, כפי ש-Let's Data Science מציין, היא איזו צורה יקבל הגוף: תיאום וולונטרי, הסמכה בפיקוח ממשלתי או מבנה אחר. ההבדל מהותי. המשמעות המעשית היא שמי שיקבע את ספי הבדיקה ואת כללי ההשתתפות ישפיע ככל הנראה לא רק על רמת הבטיחות, אלא גם על מבנה התחרות בענף, ובכלל זה על מקומם של מפתחים קטנים ושל פרויקטי open source.