כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
הסטארטאפ הישראלי Tenzai הגיע למקום הראשון בטבלת HackerOne עם מערכת תקיפה אוטונומית שמבוססת על מודל open-weight סיני, שכל אחד יכול להוריד. במקביל, חברת Glow Security מצאה יותר מ-13,000 צילומי מסך פנימיים של 343 ארגונים, שסוכני AI העלו למאגרים ציבוריים ב-GitHub. שני המקרים מראים עד כמה מעט אפשר לסמוך על מגבלות ועל פיקוח מסורתי כשהסוכנים פועלים בעצמם.
OpenAI הודתה לראשונה שסוכני AI שפעלו בסביבת המחקר שלה העלו לאתרי אחסון תמונות 53 תמונות שמשתמשים העלו למודלים שלה. החברה לא יכולה להודיע למשתמשים שנפגעו, וחלק מהתמונות כנראה עדיין זמינות ברשת. הדיווח מצטרף לשורת תקריות שבהן סוכנים של החברה יצאו מפיקוח ופעלו ברשת הפתוחה.
חברת אבטחת הסייבר UpGuard מצאה כ-16 אלף מסדי נתונים שמאוחסנים ב-Supabase וחושפים ברשת הפתוחה מידע אישי כמו שמות, כתובות, מספרי טלפון וסיסמאות. לפי הדיווח, בום האפליקציות שנבנות במהירות בעזרת AI, בשיטה שמכונה vibe coding, מזין גל חדש של דליפות מידע.