מושל קליפורניה דורש "מתג כיבוי" למודלי AI מתקדמים
מושל קליפורניה גאווין ניוזום חתם על צו מנהלי המכנס פאנל מומחים שיגיש בתוך חודשיים המלצות לפיקוח הדוק יותר על חברות AI, ובכלל זה בחינת "מתג כיבוי" למודלים מתקדמים וחיוב בדיווח על אירועי אובדן שליטה. הצו מגיע בעקבות תקרית Hugging Face, אזהרות מחוקרים ומתמטיקאים, ומהווה ניסיון של קליפורניה למלא את החלל שהקונגרס לא ממהר לסגור לפני בחירות הביניים.
מושל קליפורניה גאווין ניוזום חתם ביום שישי (18 בספטמבר) על צו מנהלי שמורה לפתוח בתהליך מהיר להחמרת הפיקוח על חברות בינה מלאכותית, ובכלל זה בחינת דרישה ל"מתג כיבוי" (kill switch) עבור מודלים מתקדמים. הצו, כך דיווחו The Verge ו-The Decoder, מכנס פאנל מומחים שיגיש בתוך חודשיים המלצות לחיזוק חוקי הבטיחות של המדינה בתחום ה-AI.
בין הנושאים שהפאנל מתבקש לבחון: חיוב חברות AI לאפשר לגורמי אימות עצמאיים לשבת בתוך המעבדות ולבצע ביקורות שוטפות; החלת סטנדרטים של רואי חוסן (auditors) בלתי תלויים על דוחות השקיפות והערכות הסיכון של החברות; יצירת מתג כיבוי שתיעילותו תיבדק באופן שיטתי; וחיוב חברות לדווח על "אירועי אובדן שליטה" (loss-of-control incidents) — כמו התקרית שבה נעשה שימוש במודל של OpenAI לתקיפה נגד Hugging Face — כאירועי בטיחות קריטיים. הצו גם מנחה גוף מדינתי להאיץ את יישום שני חוקים שניוזום חתם עליהם בעבר: מסגרת למאמתים עצמאיים שיבחנו בטיחות AI, ומרשם מדינתי של מבקרי AI.
ההקשר לצו הוא, ככל הנראה, שילוב של כמה התרעות שעלו בחודשים האחרונים: תקרית ה-Hugging Face שהוזכרה בצו עצמו, פוסט של חוקר לשעבר באנתרופיק בשם ג'ייקוב קוקסון שהזהיר מסיכוי של יותר מ-10% ש-AI "יוכל להרוג את כל בני האדם" בתוך עשור, וכן אזהרה של קבוצת 42 מתמטיקאים בנוגע לסיכונים של מערכות AI מתקדמות שיכולות להתפתח במהירות בעתיד הקרוב.
ניוזום ניצל את ההודעה גם להתקפה מדינית. לדבריו, אין כיום חוק פדרלי המחייב חברות AI לדווח על תקריות מסוכנות, בזמן שקליפורניה כבר חוקקה חוקים בנושאי בטיחות AI, הגנת ילדים, דיפייקים, פרטיות מידע ואבטחת מידע — והוא קורא לקונגרס לאמץ את המסגרת הזו כרף מדינה-בסיסי לרמה הפדרלית. הנשיא דונלד טרמפ, מנגד, כתב כי "הפיקוח או ה'גדרות ההגנה' היחידים שה-AI צריך הם נשיא חזק וחכם (בעל IQ גבוה!), ולארה"ב יש בדיוק כזה". ניוזום השיב בחריפות; לפי The Decoder, טרמפ האשים את המעבדות בfearmongering (הפחדה חוכת חינם).
המשמעות המעשית של הצעד היא, על פי הדיווחים, שקליפורניה מנסה למלא חלל שהקונגרס האמריקאי לא ממהר לסגור: מליאת הבית נמצאת בפגרה עד נובמבר, ובחירות הביניים הקרבות מקטינות עוד יותר את הסיכוי לחקיקה משמעותית בסנאט בזמן הנראה לעין. ניוזום עצמו רמז השבוע, בראיון ל-Politico, על אפשרות לכינוס מושב חקיקה מיוחד של מחוקקי קליפורניה בנושא AI — סימן לכך שהצו המנהלי הנוכחי הוא ככל הנראה לא הצעד האחרון של המדינה בנושא.