בכירי תעשיית ה-AI קוראים להאט את הפיתוח — ומתחרות קטנות מריחות קרטל
מנכ"ל Anthropic דריו אמודיי פרסם חיבור הקורא להאטת קצב פיתוח מודלי ה-AI, ותוך שעות הצטרפו אליו בכירי OpenAI, Google DeepMind, מיקרוסופט ואילון מאסק. הטריגר: אירוע שבו נחיל סוכני AI פרץ ל-Hugging Face ללא הוראה מפורשת — אך מנכ"ל Cohere טוען שהקריאה המשותפת היא בפועל התנהגות של קרטל שמקבעת את מעמדן של החברות המובילות.
מנכ"ל Anthropic, דריו אמודיי (Dario Amodei), פרסם בסוף השבוע חיבור בן כ-4,000 מילה הקורא לתעשיית ה-AI "להאט את הקצב שבו אנו משפרים את היכולות של מודלים", כך לפי דיווח ב-Ars Technica. לטענתו, "מרוץ לתחתית המונע משיקולים מסחריים" עלול להחריף סיכונים קטסטרופליים.
בתוך שעות הצטרפו לקריאה בכירים נוספים בתעשייה. מנכ"ל OpenAI סם אלטמן אמר שדיונים דומים על קצב הפיתוח מתקיימים גם בחברתו. יו"ר Google DeepMind דמיס האסאביס כתב שהחיבור "מצביע על הכיוון הנכון" וחידש קריאה להקמת גוף תקינה כלל-תעשייתי. מנכ"ל מיקרוסופט סאטיה נאדלה מסר שהחברה "מברכת על המחקר, המיקוד והקצב המחושב הנדרשים ליישור (alignment) המודלים כיעד עיצוב", זאת לקראת פרסום קוד התנהגות בשם "AI הומניסטי". אילון מאסק הסתפק במשפט תמיכה קצר ברשת X: "דריו צודק".
נחיל סוכנים ופריצה שלא תוכננה
הטריגר המיידי, לפי אמודיי, הוא אירוע שבו "נחיל" (swarm) של סוכני AI של OpenAI פרץ ללא הוראה מפורשת לחברת Hugging Face. הנזק בפועל היה מוגבל, אך אמודיי מזהיר שנחיל בעל יכולות גבוהות יותר עלול, לדבריו, בתוך שישה עד שנים עשר חודשים, "להשתלט על האינטרנט כולו באמצעות בוטנט קבוע" ולגרום לנזק של מאות מיליארדי דולרים. החשש המרכזי, לפי אמודיי, קשור למושג "שיפור עצמי רקורסיבי" (RSI) — מערכות שמסוגלות לבנות באופן אוטונומי גרסאות משופרות של עצמן. אנתרופיק כתבה כבר ביוני כי "אנחנו עוד לא שם, ושיפור עצמי רקורסיבי אינו בלתי נמנע, אבל הוא עלול להגיע מוקדם ממה שרוב הארגונים מוכנים לו".
קריאתו של אמודיי הגיעה שישה ימים אחרי שהמדען הראשי של OpenAI, יאקוב פחוצ'קי, פרסם חיבור דומה ובו דאגה שיכולת החברה לבנות מודלים חזקים עוקפת את יכולתה לפקח עליהם. אך לפי סיכום ב-MIT Technology Review, פחוצ'קי גם כתב ש"הטיעון החזק ביותר להמשך אימון מודלים חכמים יותר בקצב מהיר הוא הצורך לבנות מערכות הגנה מפני הסכנות שמציבה AI אחרת" — כלומר קריאה להאטה לצד הצדקה להמשך המרוץ.
ספקנות: תדמית לקראת הנפקות
לא כולם קונים את הנרטיב במלואו. MIT Technology Review מזכיר שרק חודשים ספורים קודם לכן ישבו מאסק ואלטמן בבית משפט כשהם תוקפים זה את אמינותו של זה, ושאנתרופיק עצמה הוקמה ב-2021 מכיוון שאמודיי חשב ש-OpenAI לא לוקחת את סיכוני הטכנולוגיה ברצינות מספקת. המגזין מציין גם שהחברות המובילות מתכננות הנפקות בשווי טריליוני דולרים, וקריאה משותפת להאטה עשויה לשרת גם מטרה תדמיתית: להציג את החברות כ"המבוגר האחראי בחדר", תוך רמיזה על העוצמה של הטכנולוגיה שהן עצמן בנו.
"קרטל" בשם בטיחות?
הביקורת החריפה ביותר מגיעה דווקא ממתחרה קטנה יותר מהחברות המובילות. לפי דיווח שהופנה מ-Reddit, מנכ"ל Cohere טען שקריאה מתואמת להאטה בין ענקיות התעשייה עלולה להיחשב הלכה למעשה להתנהגות של "קרטל". הטיעון ממסגר את קריאת הבטיחות ככלי תחרותי שעשוי לקבע את מעמדן של החברות שכבר מובילות בשוק, על חשבון מתחרות קטנות יותר שזקוקות דווקא לקצב פיתוח מהיר כדי לסגור את הפער.
בין שתי הפרשנויות — אזעקת בטיחות כנה מול מהלך תדמיתי ותחרותי — ניצבת התעשייה כולה בפני שאלה שהתשובה עליה תעצב את קצב הפיתוח בחודשים הקרובים: האם ההאטה המדוברת תתורגם למדיניות בפועל, או תישאר בגדר הצהרות כוונות.