הבית הלבן חוזר בו: מכון הבטיחות הבריטי מקבל שוב גישה מוקדמת למודלי AI מתקדמים
בספטמבר הורה ממשל טראמפ לחברות ה-AI האמריקאיות להפסיק לשתף מודלים עם המכון הבריטי לבטיחות AI. אחרי לחץ דיפלומטי של השר הבריטי לבינה מלאכותית, קניסקה נאראיין, ההחלטה בוטלה, והמכון יקבל שוב גישה מוקדמת למודלים של אנתרופיק, גוגל DeepMind ו-OpenAI.
הבית הלבן ביטל את ההחלטה שחסמה את גישתו של המכון הבריטי לבטיחות AI (AISI, AI Security Institute) למודלי בינה מלאכותית חדשים. כך דיווח ה-Daily Telegraph, והאתר The Decoder הביא את הדיווח. המכון בודק מערכות AI כדי לאתר סיכוני בטיחות לפני שהן יוצאות לשוק. עכשיו הוא יחזור לקבל גישה מוקדמת למודלים של אנתרופיק, גוגל DeepMind ו-OpenAI.
מה קרה בספטמבר
לפי הדיווח, ממשל טראמפ הורה בספטמבר לשלוש החברות להפסיק לשתף את המודלים שלהן עם המכון הבריטי. אנתרופיק הגבילה בעקבות זאת את הגישה למודל החדש שלה, Claude Mythos 5.1.
ההחלטה בוטלה אחרי לחץ דיפלומטי של שר הבינה המלאכותית הבריטי, קניסקה נאראיין (Kanishka Narayan). בדיווח לא נמסר מה בדיוק הוסכם בין הצדדים, ומה היו התנאים לביטול החסימה, אם היו כאלה.
הרקע: "מודלי חזית" ובדיקות לפני השקה
"מודלי חזית" (frontier models) הם המודלים המתקדמים והחזקים ביותר שמפתחות החברות הגדולות. המכון הבריטי הוקם כדי לבחון אותם לפני שהם מגיעים לציבור, למשל כדי לבדוק אם אפשר לנצל אותם לפגיעה בתשתיות או לסיוע לגורמים עוינים. גישה מוקדמת היא לב העבודה הזו: בלעדיה המכון יכול לבדוק מודל רק אחרי שהוא כבר זמין לכולם.
מתיחות סביב רגולציה בינלאומית
התפנית מגיעה על רקע פער גלוי בין לונדון לוושינגטון בשאלת הפיקוח על AI. ראש ממשלת בריטניה, אנדי ברנהאם, קרא בעצרת הכללית של האו"ם לרגולציה בינלאומית של בינה מלאכותית. באותו אירוע הזהיר טראמפ שארגונים "גלובליסטיים" צריכים להתרחק מפיתוח ה-AI האמריקאי.
גם בבריטניה עצמה גובר הלחץ. לפי הדיווח, ראשי MI6, MI5 ו-GCHQ, שלושת ארגוני המודיעין והביטחון של בריטניה, הזהירו את השרים ש-AI מחזק גורמים עוינים וארגוני טרור.
מה הלאה
נאראיין צפוי להציג צעדים חדשים לבטיחות AI בנאום קרוב. בין השאר הוא יציג דרישות דיווח מחמירות יותר על אירועי אבטחה שקשורים ל-AI ופוגעים בתשתיות קריטיות.
למה זה חשוב
הפרשה מראה עד כמה הפיקוח על מודלי ה-AI המתקדמים בעולם תלוי ברצון הטוב של ממשל אחד. רוב המודלים האלה מפותחים בארה"ב, ולכן גוף בדיקה של מדינה אחרת, גם של בעלת ברית קרובה, יכול לאבד גישה בהחלטה מדינית. ככל הנראה, ההחזרה המהירה של הגישה מעידה שוושינגטון עדיין רואה ערך בשיתוף הפעולה עם בריטניה בתחום. עם זאת, המשמעות היא שהמנגנון נשען על הסכמות ולא על מחויבות קבועה, ולכן לא מן הנמנע שהמחלוקת על "רגולציה גלובלית" תחזור לעלות.