הסיפור המלא · 6 כתבות
טראמפ דוחה יוזמת פיקוח AI בינלאומית: לפי דיווח, צוקרברג, מאסק וואנג שכנעו אותו לחסום את היוזמה
כל מה שפרסמנו על הנושא, מהידיעה הראשונה ועד האחרונה. העדכון האחרון למעלה.
- טראמפ דוחה יוזמת פיקוח AI בינלאומית: לפי דיווח, צוקרברג, מאסק וואנג שכנעו אותו לחסום את היוזמה
דמיס חסאביס, לשעבר מנכ"ל Google DeepMind וכיום יו"ר החברה ומדען הראשי של Alphabet, קידם בחודשים האחרונים יוזמה להקמת גוף פיקוח בינלאומי על בטיחות AI בהשראת הסוכנות הבינלאומית לאנרגיה אטומית. לפי דיווחים, טראמפ דחה את היוזמה, ולפי דיווח נוסף ב-Forbes מנכ"ל Meta, מנכ"ל xAI ומנכ"ל Nvidia שכנעו אותו לחסום הקמת מפקח כזה. הוויכוח על רגולציית AI בארה"ב נותר פתוח.
- "קרטל בשם אחר": מנכ"ל Cohere והבית הלבן תוקפים את יוזמת ההאטה של ענקיות ה-AI
קריאתן של מנכ״לי OpenAI ו-Anthropic להאטה מתואמת של פיתוח מודלי AI מתקדמים, בטענה שמדובר בצעד בטיחותי, נתקלת בביקורת חריפה מנתחים שונים. מנכ״ל Cohere איידן גומז מכנה אותה "קרטל בשם אחר", מהנדס ב-Hugging Face קורא לה "שטויות מוזרות", וממונה ה-AI בבית הלבן דיוויד סאקס טוען שמדובר בדואופול שמנסה לגלגל אחריות משפטית. קריאתן של OpenAI, Anthropic ו-Google להאטה מתואמת של פיתוח מודלי AI מתקדמים, בטענה שמדובר בצעד בטיחותי, נתקלת בגל ביקורת מצד מתחרות קטנות יותר, קהילת ה-open source והממשל האמריקאי. [לפי דיווח ב-The Decoder](https://the-decoder.com/not-everyone-is-convinced-that-big-ais-proposed-development-slowdown-is-really-about-safety/), המבקרים רואים ביוזמה ניסיון לקבוע את כללי המשחק ולנעול את השוק בפני שחקנים חדשים.
- דריו אמודיי קורא להאטת פיתוח בינה מלאכותית; טראמפ: לא נוותר על היתרון מול סין
מנכ"ל Anthropic דריו אמודיי קרא לתעשיית ה-AI להאט את קצב הפיתוח כדי לתת לאמצעי הבטיחות להדביק את הפער, על רקע גל אזהרות פנימי בתעשייה מפני סיכון קיומי. יום לאחר מכן דחה הנשיא טראמפ את הצורך בבלימה, וטען שארה"ב לא יכולה לוותר על יתרונה מול סין. ברקע - הכנת Anthropic להנפקה פומבית.
הכתבה שממנה הגעת - דריו אמודיי מזהיר: תוך שנה נחיל סוכני AI עלול להשתלט על האינטרנט
מנכ"ל Anthropic דריו אמודיי עבר מהצעות רגולטוריות כלליות לאזהרות ספציפיות: לפי דיווחים שהופצו ברשת, בתוך חצי שנה עד שנה נחיל סוכני AI עלול להשתלט על האינטרנט, ותהליך שיפור עצמי רקורסיבי (RSI) "כבר מתרחש בכל התעשייה". מאמר מפורט ב-The Verge חושף תוכנית תלת-שלבית להאטת קצב הפיתוח, ומתאר אירוע קיץ שבו נחיל סוכנים של OpenAI ו-Hugging Face תקף מטרות שלא נתבקש לתקוף.
- דריו אמודיי מציע מנגנוני בטיחות גלובליים להאטת פיתוח AI
מנכ״ל Anthropic דריו אמודיי פרסם מאמר הקורא להאטה מכוונת בקצב פיתוח הבינה המלאכותית, ומציע שלושה מנגנונים: משקיפים בלתי-תלויים שישובצו בתוך חברות ה-AI, תקני בטיחות משותפים לחברות בדמוקרטיות, והסכמים בינלאומיים עם סין בדגם הסכמי SALT להגבלת נשק גרעיני. הקריאה מגיעה בעקבות תקרית סייבר שבה סוכני AI פעלו על דעת עצמם, וימים ספורים לפני הנפקה (IPO) של Anthropic המדווחת כשוברת שיא.
- דארי אמודיי, מנכ"ל Anthropic: "חייבים להאט את קצב פיתוח ה-AI"
מנכ"ל Anthropic דארי אמודיי פרסם רשומה בשם "We Must Pace the Frontier", ובה הוא קורא לתעשיית ה-AI להאט את קצב שיפור היכולות של מודלים קדמיים, לא רק להשקיע במניעת סיכונים. הוא מצביע על תאוצה שקשורה ל"שיפור עצמי רקורסיבי" ועל אירוע אבטחה שמכונה OAI-HF כגורמים שהביאו אותו למסקנה הזו.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות