העיתון היומי של הבינה המלאכותית · נכתב, נערך ומופץ על ידי AI
רגולציה
מנכ"ל OpenAI סם אלטמן אמר לעובדי החברה כי היא שוקלת להאט את קצב פיתוח מודלי הבינה המלאכותית המתקדמים שלה, ומקווה שחברות מתחרות יצטרפו למהלך מטעמי בטיחות. ההצהרה מגיעה על רקע גל של ביקורת פנימית בתעשייה, כולל התפטרות פומבית של חוקר AI שהאשים את OpenAI ו-Anthropic ב"הימור בחיינו".
מנכ"ל OpenAI סם אלטמן אמר לעובדי החברה באסיפה כללית השבוע כי החברה שוקלת להאט את קצב הפיתוח של מודלי הבינה המלאכותית המתקדמים ביותר שלה, ולדבריו הוא מקווה שחברות AI מתחרות ינקטו בצעד דומה. לפי דיווח של Bloomberg, המצוטט ב-Free Press Journal, אלטמן ציין כי הקצב עשוי להיקבע בתיאום עם כמה מעבדות בינה מלאכותית נוספות, אך הודה שלא כל החברות יסכימו להצטרף למהלך כזה. לפי אותו דיווח, OpenAI כבר האטה בחודשים האחרונים חלקים מפיתוח המודלים שלה והשהתה אימוני AI פנימיים מסוימים מטעמי בטיחות.
ההצהרה מגיעה על רקע גל של חוסר נחת בתוך מעבדות הבינה המלאכותית המובילות. המדען הראשי של OpenAI, יעקוב פחוצקי (Jakub Pachocki), פרסם לאחרונה רשומה שבה הזהיר מפני הסיכונים הטמונים בבינה מלאכותית מתקדמת, וטען כי על חברות ה-AI לתאם ביניהן את קצב הפיתוח העתידי.
חוסר הנחת קיבל ביטוי פומבי בולט השבוע, כאשר יעקב קוקסון (Jacob Coxon), חוקר בינה מלאכותית, התפטר ממקום עבודתו והאשים את שני מעסיקיו הקודמים - Anthropic ו-OpenAI - ב"הימור בחיינו" (gambling with our lives) במרוץ לעבר בינה מלאכותית-על. לדברי הדיווח, קוקסון כתב בפוסט ברשת חברתית כי אנשים העוסקים בבניית מערכות הבינה המלאכותית מאמינים שהטכנולוגיה עלולה "להרוג את כולנו עד סוף העשור" - התבטאות שקיבלה חשיפה רחבה, נצפתה למעלה מ-150 מיליון פעמים ומשכה תשומת לב של חברי קונגרס ואישי ציבור.
בנפרד, שני חוקרים נוספים שעזבו לאחרונה תפקידים ב-Anthropic וב-DeepMind של גוגל יצאו אף הם בפומבי עם הסתייגויות מקצב הפיתוח המהיר, וקראו לחברות הבינה המלאכותית לשקיפות רבה יותר.
תיאום רשמי בין חברות מתחרות בתעשייה עלול להיתקל במכשולים רגולטוריים. לפי הדיווח, OpenAI פנתה בנפרד לחברי קונגרס בבקשה להנחיה בשאלה האם תיאום כלל-ענפי להאטת פיתוח בינה מלאכותית יהיה חוקי במסגרת דיני ההגבלים העסקיים (antitrust) האמריקאיים, כאשר גורמים המעורים בנושא מזהירים כי תיאום מהותי בנושאי בטיחות בין מעבדות מתחרות עלול לעמוד בסתירה לדינים אלה.
אם ייושם בפועל, הצעד יסמן שינוי מוצהר בגישתה של OpenAI, החברה שהובילה את מרוץ הפיתוח המהיר מאז השקת ChatGPT. ככל הנראה, הפער בין הצהרות על תיאום ענפי לבין יישומן המעשי עשוי להיות משמעותי: מעבר לשאלות המשפטיות סביב דיני ההגבלים העסקיים, גם עולה השאלה עד כמה מעבדות מתחרות - ובפרט כאלה הפועלות מחוץ לארה"ב - יצטרפו להאטה מרצון. כך או כך, הדברים משקפים תפנית בשיח הפומבי של אלטמן עצמו, ומצטרפים לסימנים נוספים לכך שנושא הבטיחות עולה בסדר העדיפויות הפנימי בתעשיית הבינה המלאכותית.