דיווח: דריו אמודיי משיב למבקרים ואומר שאנתרופיק חייבת להישאר בחזית מירוץ ה-AI

דריו אמודיי, מנכ"ל אנתרופיק, השיב לפי דיווח לביקורת חריפה נגד החברה וטען שאנתרופיק יכולה לתרום יותר לבטיחות תעשיית ה-AI אם תישאר בחזית הפיתוח. לפי הדיווח, התגובה משתרעת על כמעט 2,000 מילים. אמודיי כתב אותה בעקבות פוסט ב-X שטען שאנתרופיק מנסה לנצח במירוץ לבינה-על (superintelligence) ומורידה את הבטיחות בסדר העדיפויות. חשוב לסייג: הפרטים האלה מגיעים מפוסט שמצטט את הדברים בלי לקשר למקור עצמו, ובשלב זה לא הצלחנו לאמת אותם.

הביקורת: תשעה צעדים שנויים במחלוקת

לפי אותו דיווח, כותב הפוסט, שמוצג בשם קלווין, מנה תשעה צעדים שאנתרופיק עשתה בשנה האחרונה ושלדבריו פוגעים בהתחייבויות הבטיחות שלה. שניים מהם הוזכרו במפורש: עסקאות לרכישת כוח מחשוב (compute) בהיקף של יותר מ-500 מיליארד דולר, והסתמכות גוברת על Claude, המודל של החברה, בפיתוח הדורות הבאים של המודלים שלה. עמדתו של אמודיי, כפי שהיא מתוארת בדיווח, היא שהחברה תוכל לעשות יותר למען בטיחות התעשייה אם תישאר בחזית.

הרקע: המסה "We Must Pace the Frontier"

את התגובה קשה להבין בלי המסה שאמודיי פרסם באמצע ספטמבר. לפי ה"ג'רוזלם פוסט" ורויטרס, במסה של כ-3,800 מילים בשם We Must Pace the Frontier הוא קרא לחברות ה-AI להאט בכוונה את קצב שיפור היכולות של המודלים, והציג מסגרת בת שלושה שלבים לשם כך. "עלינו להאט את הקצב שבו אנחנו משפרים את יכולות מודלי ה-AI. ההתקדמות עדיין תיראה מהירה, ועלינו לנצל בחוכמה את הזמן שנרוויח", כתב.

המסה פורסמה אחרי שג'ייקוב קוקסון, עובד לשעבר גם באנתרופיק וגם ב-OpenAI, האשים את החברות בהתנהלות חסרת אחריות וב"הימור על חיינו". קוקסון הזהיר שהטכנולוגיה עלולה "להרוג את כולנו עד סוף העשור", ובשרשור של שישה פוסטים ב-X הזהיר ממערכות AI על-אנושיות. לטענתו, החברות לכודות במירוץ מתוך אמונה ש"אף אחד אחר לא יפעל באחריות, ולכן הן חייבות לעשות זאת בעצמן, למרות הסיכון".

במסה מנה אמודיי את הסיכונים שמדאיגים אותו: "אובדן שליטה במערכות AI, שימוש לרעה ב-AI למתקפות סייבר ולטרור ביולוגי, וזעזוע כלכלי חמור". הוא הוסיף ש"מירוץ לתחתית, שמונע מתמריצים מסחריים, עלול להחריף את הסיכונים האלה". לדבריו, שני דברים שקרו בקיץ שכנעו אותו שצריך להאט: הראשון הוא שיפור עצמי רקורסיבי (recursive self-improvement), כלומר מצב שבו AI עוזר לשפר את הטכנולוגיה שיצרה אותו, תהליך שלדבריו "עלול לעקוף את יכולתנו להבין ולשלוט במערכות האלה". השני הוא תקרית שכונתה OAI-HF, בין OpenAI ל-Hugging Face, שלדבריו הראתה מערכות AI שמתנהגות באופן בלתי צפוי ועלול להיות מסוכן.

אמודיי לא ויתר במסה על החזון האופטימי. לדבריו, AI "עשוי לרפא את רוב המחלות הגדולות בתוך 5 עד 10 שנים". הוא הציג את אנתרופיק כמי שהולכת ב"דרך האמצע" בין בטיחות להתקדמות, דרך שגם משתלמת מסחרית.

למה זה חשוב

לכאורה יש סתירה בין קריאה להאט את הפיתוח לבין התעקשות להישאר בראש המירוץ. אבל ככל הנראה זה בדיוק הטיעון של אמודיי: רק מי שנמצא בחזית יכול לקבוע את הקצב. מי שנשאר מאחור מאבד את ההשפעה על הסטנדרטים, על הרגולציה ועל המתחרים. המבקרים רואים את אותה עובדה מהצד השני. מבחינתם, עסקאות מחשוב בהיקף של מאות מיליארדי דולרים ושימוש במודלים כדי לפתח מודלים הם בדיוק ההאצה שאמודיי עצמו מזהיר מפניה. המחלוקת הזאת ככל הנראה לא תוכרע במסות ובפוסטים, אלא בשאלה אם אנתרופיק אכן תאט את קצב הפיתוח כשהמתחרות לא יעשו זאת.