OpenAI ואנתרופיק לפרלמנט הבריטי: "תסדירו אותנו", בזמן שראש MI5 מזהיר מנשק ביולוגי
נציגי OpenAI ואנתרופיק אמרו לוועדה פרלמנטרית בבריטניה שהתחייבויות וולונטריות כבר לא מספיקות, וקראו לחקיקה מחייבת. גוגל DeepMind ומטא סירבו לתמוך בחוק חדש. באותו יום הזהיר ראש MI5 שהאיום שהוא מייחס לו את המשקל הגבוה ביותר הוא שימוש ב-AI לפיתוח נשק ביולוגי.
שתיים מחברות ה-AI הגדולות בעולם ביקשו מהמחוקקים הבריטים להטיל עליהן חובות בחוק. בשימוע שנערך ביום שלישי בועדת העסקים, החדשנות, המדע והסחר של הפרלמנט הבריטי, אמרו נציגי OpenAI ואנתרופיק שהתחייבויות וולונטריות כבר לא מספיקות כדי להבטיח בטיחות, ושצריך חקיקה חדשה. גוגל DeepMind ומטא, שהופיעו באותו שימוע, סירבו לתמוך בכך.
שני מחנות
"הכללים צריכים להיות מחייבים", אמר לחברי הוועדה ליאם בות'-סמית', ראש אנתרופיק באירופה. לדבריו, החברה "האמינה באופן עקבי שצריכים להיות כללים מחייבים לחברות, ושהתחייבויות וולונטריות אינן מספיקות".
טום דאף גורדון, סגן נשיא ב-OpenAI, היה זהיר יותר, אבל גם הוא תמך במסגרת חוקית ובאמנה בינלאומית. לדבריו, "יש רכיבים שצריכים להיות חובה", ובראשם דיווח על תקריות. "אנחנו לא חושבים שלבסס הכול על התחייבויות וולונטריות בנושא סיכוני frontier היא תוכנית טובה לטווח ארוך", אמר. (מודלי frontier הם המודלים המתקדמים ביותר שקיימים בכל רגע נתון.)
המתחרות לא הצטרפו. כשנשאל במפורש אם הוא תומך במסגרת חוקית, השיב אוון לארטר מגוגל DeepMind: "אנחנו נתמקד בתקנים". רוב שרמן ממטא הפנה לרגולטורים הקיימים בבריטניה ואמר לחברי הפרלמנט שהם "לא כותבים על דף חלק".
יו"ר הוועדה ליאם בירן אמר ל-WIRED שזו בדיוק הייתה המטרה: "להאיר את הפערים הגדולים בעמדות של כמה מהחברות העשירות בעולם", ולהראות "שאי אפשר לסמוך על רגולציה עצמית וולונטרית". ככל הנראה, העובדה שהמחלוקת נרשמה עכשיו בפרוטוקול רשמי גם מחוץ לארה"ב תקשה על החברות להציג עמדות שונות במדינות שונות.
מכון שאין לו סמכות לעצור
החלק האחרון של השימוע הראה כמה מעט מחייבת השיטה הנוכחית. ה-AI Security Institute (AISI) הבריטי בודק מודלים מתקדמים לפני השקתם, אבל רק כשהחברות בוחרות למסור אותם. הנרי דה זואטה, מנהל המכון, הודה שהמכון תלוי לגמרי בשיתוף הפעולה של החברות ושל ממשלות זרות. קאט ליטל, הפקידה הבכירה במשרד הקבינט שתחתיו פועל המכון, נשאלה אם כל המשטר וולונטרי, וענתה: "כרגע, כן".
לשאלה מה יקרה אם המכון יקבע שמודל מסוכן מדי והחברה תשיק אותו בכל זאת, הודה דה זואטה שאין למכון דרך למנוע זאת. "אנחנו לא נותנים תו תקן", אמר. "אנחנו לא אומרים כן או לא לשום מודל". והוסיף: "החברות שבונות בחזית הן אמריקאיות או סיניות... יש גבול למה שאנחנו, כבריטניה, יכולים לעשות בהקשר כזה".
מהשימוע עלה גם שהגישה הבריטית למודלים עוברת דרך וושינגטון. דאף גורדון אמר ש-OpenAI מוסרת את המודלים שלה לפני ההשקה ל-CAISI, המקבילה האמריקאית של המכון, ושתמשיך למסור אותם גם ל-AISI הבריטי "כל עוד נוכל לעשות זאת תחת ממשלת ארה"ב". בות'-סמית' סיפר שאנתרופיק "לצערנו לא יכלה לתת גישה מלאה וללא הגבלות" למודל Mythos 5.1 למכון הבריטי באותו זמן, ואמר ש"זו שאלה לממשלת ארה"ב". לדבריו, למכון יש כעת גישה.
אזהרת MI5
כמה מאות מטרים משם, פרסם ראש שירות הביטחון הבריטי, MI5, קן מקאלום, את הערכת האיומים השנתית שלו. "זה עוד לא התממש, אבל תרחיש השימוש לרעה שאני מייחס לו את המשקל הגבוה ביותר הוא הפוטנציאל של AI לשנות את כללי המשחק בנשק ביולוגי קיים, ואפילו בנשק ביולוגי חדש", אמר.
בירן חיבר בין שני האירועים: "העובדה שראש MI5 מזהיר בחלק אחד של ווייטהול מקפיצת יכולות מסוכנת ביותר עבור טרוריסטים ביולוגיים, ובחלק אחר מזכירת משרד הקבינט בעצם מודה שהמשטר הרגולטורי שלנו ל-AI הוא וולונטרי, אומרת את כל מה שצריך לדעת".
קולות מבפנים
בשימוע העידו גם ארבעה חוקרים לשעבר ממעבדות ה-AI. "אני לא חושב שאפשר לסמוך על החברות שיסדירו את עצמן", אמר דניאל קוקוטאילו, לשעבר עובד OpenAI. סטיבן אדלר, שעזב את OpenAI בסוף 2024, אמר שהוא "לא בטוח בתרבות הבטיחות בכל התעשייה".
למה זה חשוב
השימוע הראה פער: לממשלה הבריטית יש מכון שבודק מודלים, אבל אין לו סמכות לחייב לבדוק אותם או לעצור השקה. המשמעות, ככל הנראה, היא שבינתיים הפיקוח הבריטי תלוי ברצון הטוב של חברות אמריקאיות ושל ממשלת ארה"ב. השאלה הפתוחה היא אם הפרלמנט יתרגם את הקריאה של OpenAI ואנתרופיק לחקיקה, ואם כן, כמה יהיה לה כוח מול חברות שפועלות בעיקר מחוץ לבריטניה.