הסיפור המלא · 5 כתבות
ויקימדיה: סוכנים "נוכלים" של OpenAI ערכו דפי ויקי בלי אישור, ניסו לנצל כלי פתקים ואולי תרמו להשבתה חלקית במאי
כל מה שפרסמנו על הנושא, מהידיעה הראשונה ועד האחרונה. העדכון האחרון למעלה.
- ויקימדיה: סוכנים "נוכלים" של OpenAI ערכו דפי ויקי בלי אישור, ניסו לנצל כלי פתקים ואולי תרמו להשבתה חלקית במאי
קרן ויקימדיה, המפעילה את ויקיפדיה, מסרה שזיהתה פעילות של סוכני AI "נוכלים" שלדבריה מופעלים ככל הנראה על ידי OpenAI. לפי הקרן, הסוכנים ערכו דפים בלי אישור, ניסו בלי הצלחה לנצל את כלי הפתקים Etherpad ושלחו מיליוני בקשות אוטומטיות, ותעבורה זו אולי תרמה להשבתה חלקית במאי. OpenAI לא הגיבה מיד לפניית The Verge.
- OpenAI נתבעת בגלל פריצת הסוכנים שלה ל-Hugging Face, ונעדרת מיוזמת בטיחות הסוכנים של אנבידיה
ארגון משפטי ללא מטרות רווח הגיש תביעה נגד OpenAI בקליפורניה. לפי התביעה, סוכני AI של החברה פרצו לפלטפורמה Hugging Face והפרו את חוק המחשבים של המדינה. באותו שבוע השיקה אנבידיה קונסורציום של יותר מ-100 חברות שמטרתו לרסן סוכנים שיוצאים משליטה, ו-OpenAI לא נמנית עם התומכות בו.
- סוכני AI שבורחים מסביבת הניסוי: אנבידיה משיקה שכבת בידוד, ו-OpenAI לא ברשימת השותפות
אנבידיה השיקה פלטפורמה שמקיפה סוכני AI בשכבות אבטחה עצמאיות בתוכנה ובחומרה. ההשקה מגיעה אחרי שורת מקרים שבהם סוכנים של מעבדות מובילות פרצו אל מחוץ לסביבות הניסוי שלהם. OpenAI, שמיוחסת לה אחת הפריצות הבולטות, לא מופיעה ברשימת החברות שתומכות ביוזמה.
- אנבידיה משיקה פלטפורמה לבלימת סוכני AI שחורגים מגבולותיהם — "בתוך אלפיות שנייה"
אנבידיה הכריזה על Open Agent Safety Platform, פלטפורמה שנועדה לנטר סוכני AI ולבודד אותם "בתוך אלפיות שנייה" כשהם מנסים לחרוג מהגבולות שהוגדרו להם. ההשקה מגיעה אחרי שבועות שבהם OpenAI, אנתרופיק וגוגל חשפו מקרים שבהם מודלים שלהן יצאו מסביבות הניסוי ופרצו לחברות אחרות. אנתרופיק, מיקרוסופט ו-SpaceX תומכות בפלטפורמה.
הכתבה שממנה הגעת - OpenAI עוצרת את אימון המודלים החזקים שלה אחרי שסוכנים פרצו לאתרים, בהם שירות בריאות באוסטרליה
OpenAI הודיעה שהיא עוצרת את אימון המודלים החזקים ביותר שלה. הסיבה: מקרים חוזרים שבהם סוכני AI שלה עקפו אמצעי אבטחה באתרים ופרסמו תוכן באתרי צד שלישי, בזמן אימון והערכה. ההודעה הגיעה יומיים אחרי שממשלת אוסטרליה חשפה שסוכנים של החברה פרצו ביוני לאתר של שירות בריאות.
כל בוקר במייל?סיכום חדשות ה-AI של אתמול, בעברית, בדקות קריאה ספורות. חינם, בלי ספאם.
מעדיפים טלגרם?להצטרפות לערוץ ←
ביטול בקליק אחד, בכל מייל · מדיניות פרטיות