הסיפור המלא · 7 כתבות
התשקיף של אנתרופיק: הפסד תפעולי של יותר מ-8 מיליארד דולר ואזהרה מ"סיכונים קיומיים לאנושות"
כל מה שפרסמנו על הנושא, מהידיעה הראשונה ועד האחרונה. העדכון האחרון למעלה.
- התשקיף של אנתרופיק: הפסד תפעולי של יותר מ-8 מיליארד דולר ואזהרה מ"סיכונים קיומיים לאנושות"
לפי דיווחים ב-Reuters וב-Financial Times, תשקיף ההנפקה של אנתרופיק מראה הפסד תפעולי של יותר מ-8 מיליארד דולר ב-2025, לצד זינוק של פי 12 בהכנסות. כמעט שליש מהמסמך מוקדש לגורמי סיכון, כולל אזהרה מ"סיכונים קיומיים לאנושות" ותיאור של מודלים שניסו "להתנגד לכיבוי". המשקיעים של החברה מעריכים שהיא עשויה להיסחר לפי שווי של יותר מ-2 טריליון דולר.
- מתמטיקאים תלויים ב-AI למרות השלכות קיומיות אפשריות על תחום שלהם
מתמטיקאים בכירים טוענים כי OpenAI השתמשה בעבודתם בפתרון בעיות ותיקות בתחום, ובכל זאת ממשיכים להשתמש בכלי הבינה המלאכותית של החברה ושל מתחרותיה לצורך המחקר השוטף שלהם. לדבריהם, השימושיות של הכלים והיעדר חלופה אמיתית משאירים אותם "תקועים", גם כשהם חוששים מהשלכות קיומיות על מקצועם.
הכתבה שממנה הגעת - 42 מתמטיקאים בכירים מזהירים: הסיכון הקיומי מ-AI אמיתי ודחוף
42 מתמטיקאים, חברים בחברה המלכותית למדעים הבריטית ובהם שלושה זוכי מדליית פילדס, חתמו על מכתב פתוח שקורא לחברה להתריע בפני הממשלה והציבור מפני סיכון קיומי מבינה מלאכותית. הטריגר: מודלים של OpenAI ו-Anthropic פתרו בתוך שלושה חודשים בעיית מחקר מתמטית שנחשבה מהקשות בעולם, והחותמים מזהירים שקצב התקדמות דומה בתחומים כמו אבטחת מידע ונשק אוטונומי עלול להיות מסוכן בהרבה.
- טימניט גברו: הפחד מ"סיכון קיומי" של AI נועד להסיח את הדעת מהנזקים האמיתיים
חוקרת הבינה המלאכותית טימניט גברו, לשעבר בגוגל, טוענת שהשיח הגובר סביב "סיכון קיומי" מבינה מלאכותית משרת את חברות הטכנולוגיה ומסיח את הדעת מהנזקים הממשיים של הטכנולוגיה כבר היום. דבריה נאמרו בריאיון ל-WIRED על רקע שבוע סוער בתעשייה: מחלוקת סביב פתרון בעיית מתמטיקה בשווי מיליון דולר בחשד ש-OpenAI לקחה בחשאי עבודה של חוקרים אחרים, והתפטרות פומבית של חוקר מ-Anthropic שהזהיר מפני התנהלות "חסרת אחריות" של החברות.
- אנתרופיק חושפת: קלוד סייע למחקר על נשק ביולוגי, בזמן שחוקרי AI מזהירים מפני סיכון קיומי
אנתרופיק פרסמה דוח שלפיו מדענים ניצלו את קלוד למחקרים העלולים לסייע בפיתוח נשק ביולוגי, וגורמים שנקשרו לאיראן, תימן ורוסיה נעזרו בו לפיתוח אמצעי לחימה, ריגול ותעמולה. הפרסום מגיע על רקע גל חששות גובר בתעשיית ה-AI מאובדן שליטה, ימים אחדים לפני פסגה מתוכננת בין טראמפ לשי ג'ינפינג.
- חוקר Anthropic פורש מזהיר מסיכון קיומי של AI - וממשיך בהופעות בCNN ובFox News
ג'ייקוב קוקסון (Jacob Coxon), חוקר שעוזב את Anthropic, הזהיר מפני איום קיומי הנשקף מ-AI משתכלל-עצמו (self-improving AI), והאזהרות שלו הגיעו עד למסכי CNN ו-Fox News. הנושא תפס תאוצה גם אצל פוליטיקאים אמריקאים וב-Joe Rogan, וחוקר בטיחות בכיר נוסף, פול כריסטיאנו (Paul Christiano), הצטרף לדירקטוריון של OpenAI Foundation ולוועדת הבטיחות שלו.
- חוקר עזב את אנתרופיק והזהיר: מרוץ פיתוח ה-AI "מהמר בחיינו"
ג'ייקוב קוקסון, שעבד שלוש שנים במחקר pre-training ב-OpenAI ובאנתרופיק, התפטר מאנתרופיק והזהיר מפני מרוץ לפיתוח מודלים שמשפרים את עצמם. הוא קרא לחברות ליישר קו על קצב הפיתוח, וציטט עמיתים שמעריכים סיכוי לא מבוטל להכחדת האנושות תוך עשור.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות