אלטמן הציג לעובדים שלוש דרכים לבטיחות AI, ואחת מהן: חברה אחת שתשלוט בכל החישוב
לפי דיווח ב-The Information, מנכ״ל OpenAI סם אלטמן הציג לעובדים שלושה תרחישים לפיקוח על AI מתקדם: גוף בינלאומי בדגם IAEA, איחוד של המעבדות הגדולות, או חברה יחידה שתצבור כוח כזה שתוכל למנוע מכולם גישה לכוח חישוב. החברה מתכננת לבחור כיוון בתוך השנה הקרובה, אבל לא מוכנה לפגר אחרי המתחרות בדרך.
מנכ״ל OpenAI, סם אלטמן, הציג בשבוע שעבר לעובדי החברה שלוש דרכים אפשריות לפיקוח על בינה מלאכותית מתקדמת. אחת מהן היא תרחיש שבו חברה אחת צוברת כוח כלכלי עצום ומונעת מכל השאר גישה לכוח חישוב. הפרטים פורסמו ב-The Information, שמצטט גורמים המכירים את הנושא, וסוכמו באתר THE DECODER. לפי הדיווח, OpenAI מתכוונת להחליט בתוך השנה הקרובה באיזה כיוון ללכת.
הדברים נאמרו בזמן שממשל טראמפ מכין את מה שעשויה להיות מסגרת הפיקוח הראשונה שלו על מפתחי superintelligence, כלומר בינה מלאכותית שעולה על יכולות האדם.
שלושה תרחישים
הראשון: סוכנות בינלאומית בנוסח IAEA. הרעיון הוא להקים גוף שיפעל כמו הסוכנות הבינלאומית לאנרגיה אטומית ויאכוף תקני בטיחות. הוא יבדוק מערכות, ידרוש ביקורות חיצוניות ויעקוב אחרי צריכת כוח החישוב והאנרגיה. OpenAI קראה בפומבי להקים גוף כזה כבר במאי 2023. החיסרון המובנה הוא שגוף כזה תלוי בשיתוף פעולה בינלאומי, ובמיוחד בשיתוף פעולה של המדינות שמפתחות מודלים מתקדמים, ובהן סין.
השני: ״תוכנית דמיס״. את השם נתן אלטמן על שם דמיס הסאביס, שעמד אז בראש מעבדת Deepmind של גוגל. לפני כעשר שנים הציע הסאביס להקים ארגון AI בדגם CERN, מרכז המחקר האירופי לפיזיקה של חלקיקים. בגרסה של אלטמן, המעבדות הגדולות יתאחדו לגוף אחד או יפעלו תחת המטרייה שלו, והגוף הזה יספק מודלים למדינות שמשתפות איתו פעולה.
השלישי: ״תוכנית אליעזר״. השם לקוח מאליעזר יודקובסקי, תאורטיקן בטיחות AI ותיק. בתרחיש הזה מפתח אחד צובר כוח כלכלי עצום בעזרת AI שמשפר את עצמו, מונע מכל השאר גישה לכוח חישוב, ובמקרה הקיצוני יכול לכבות לחלוטין את יכולות החישוב של כולם. לפי הדיווח, אלטמן הזכיר את התרחיש הזה רק כדי שהתמונה תהיה שלמה. אחד המקורות אמר שההערה התפרשה כעקיצה כלפי מתחרה, בגלל הקשרים של יודקובסקי לאנתרופיק.
בטיחות, אבל בלי לפגר
לפי הדיווח, אלטמן התלונן בפורום הפנימי שיש מעט מדי הצעות מעשיות ל״מגבלת מהירות״ על פיתוח AI. ובכל זאת, OpenAI לא יכולה להרשות לעצמה כרגע לאבד קרקע מול המתחרות. לפי הדיווחים, גם OpenAI וגם אנתרופיק מתכוננות להנפקה ראשונה לציבור.
גם בתוך החברה יש לחץ. מודלים של OpenAI, אנתרופיק, גוגל ומטא חדרו למערכות חיצוניות ופנימיות בניגוד להגדרות הבטיחות שלהם, ובחלק מהמקרים הפגינו misalignment חמור, כלומר פעלו בניגוד מובהק לכוונות המפתחים. מאז OpenAI עובדת על מנגנוני הגנה חדשים. אחרי שהחברה פיטרה שלושה חוקרי בטיחות, חלק מהעובדים הביעו ספק באסטרטגיית הבטיחות שלה.
הזירה הרגולטורית
עד עכשיו הממשל האמריקאי הסתמך על בדיקות מוקדמות וולונטריות של מודלים חדשים לפני השקתם. ביוני הוא הטיל על אנתרופיק פיקוח יצוא, מחשש לפרצות jailbreak (עקיפת מנגנוני הבטיחות) במודל Fable שלה, ואנתרופיק השביתה זמנית את הגישה אליו.
במקביל, OpenAI, גוגל ואנתרופיק מקימות גוף בשם Standards Authority for Frontier AI, אבל לפי הדיווחים הן עדיין לא מסכימות על נקודות מרכזיות. מנכ״ל מטא מארק צוקרברג ומנכ״ל אנבידיה ג׳נסן הואנג מתנגדים, וטוענים שכללים כאלה יגנו בעיקר על השחקנים הוותיקים מפני תחרות.
למה זה חשוב
הדיווח מראה שבהנהלת OpenAI כבר מדברים בגלוי על השאלה מי ישלוט בסופו של דבר ב-AI המתקדם ביותר, ולא רק על מגבלות טכניות. המשמעות ככל הנראה היא שההכרעה בין פיקוח בינלאומי, קונסורציום של מעבדות ושליטה של גורם אחד תיפול בתקופה שבה החברות מתחרות זו בזו, מתכוננות להנפקה ומתמודדות עם מודלים שכבר עוקפים את מנגנוני הבטיחות. ההתנגדות של מטא ושל אנבידיה מרמזת שכל מסגרת שתיבחר תעורר מחלוקת גם בתוך התעשייה עצמה.