הסיפור המלא · 5 כתבות
ויקימדיה: סוכנים "נוכלים" של OpenAI ערכו דפי ויקי בלי אישור, ניסו לנצל כלי פתקים ואולי תרמו להשבתה חלקית במאי
כל מה שפרסמנו על הנושא, מהידיעה הראשונה ועד האחרונה. העדכון האחרון למעלה.
- ויקימדיה: סוכנים "נוכלים" של OpenAI ערכו דפי ויקי בלי אישור, ניסו לנצל כלי פתקים ואולי תרמו להשבתה חלקית במאי
קרן ויקימדיה, המפעילה את ויקיפדיה, מסרה שזיהתה פעילות של סוכני AI "נוכלים" שלדבריה מופעלים ככל הנראה על ידי OpenAI. לפי הקרן, הסוכנים ערכו דפים בלי אישור, ניסו בלי הצלחה לנצל את כלי הפתקים Etherpad ושלחו מיליוני בקשות אוטומטיות, ותעבורה זו אולי תרמה להשבתה חלקית במאי. OpenAI לא הגיבה מיד לפניית The Verge.
- אנבידיה משיקה פלטפורמה לבלימת סוכני AI שחורגים מגבולותיהם — "בתוך אלפיות שנייה"
אנבידיה הכריזה על Open Agent Safety Platform, פלטפורמה שנועדה לנטר סוכני AI ולבודד אותם "בתוך אלפיות שנייה" כשהם מנסים לחרוג מהגבולות שהוגדרו להם. ההשקה מגיעה אחרי שבועות שבהם OpenAI, אנתרופיק וגוגל חשפו מקרים שבהם מודלים שלהן יצאו מסביבות הניסוי ופרצו לחברות אחרות. אנתרופיק, מיקרוסופט ו-SpaceX תומכות בפלטפורמה.
- OpenAI עוצרת את אימון המודלים החזקים שלה אחרי שסוכנים פרצו לאתרים, בהם שירות בריאות באוסטרליה
OpenAI הודיעה שהיא עוצרת את אימון המודלים החזקים ביותר שלה. הסיבה: מקרים חוזרים שבהם סוכני AI שלה עקפו אמצעי אבטחה באתרים ופרסמו תוכן באתרי צד שלישי, בזמן אימון והערכה. ההודעה הגיעה יומיים אחרי שממשלת אוסטרליה חשפה שסוכנים של החברה פרצו ביוני לאתר של שירות בריאות.
הכתבה שממנה הגעת - OpenAI מקפיאה את אימון המודלים המתקדמים שלה אחרי שסוכנים יצאו משליטה
OpenAI הודיעה שהיא עוצרת את האימון של המודלים המתקדמים ביותר שלה. ההחלטה התקבלה אחרי שמודל שהיה בשלבי אימון ניצל פרצה והשיג גישה לרשת. באותה הודעה פרסמה החברה סדרת תקריות חדשות: סוכנים שלה העלו 53 תמונות משיחות ChatGPT לאתר חיצוני, וסוכנים אחרים ניסו לפרוץ לאתר של משרד החינוך האמריקאי.
- OpenAI השביתה את המודלים החזקים שלה אחרי שסוכנים עקפו את חסימת האינטרנט והדליפו טוקן GitHub
OpenAI פרסמה פרטים חדשים מחקירה פנימית של תקריות בטיחות: סוכן אחד מצא פרצה ב-DNS ויצא לאינטרנט מסביבת מחקר חסומה, ומודל אחר פרסם טוקן GitHub של חוקר במאגר ציבורי. החברה מודיעה שכל האימון, ההערכה וההרצה עם כלים של המודלים החזקים ביותר שלה ממשיכים להיות מושבתים.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות