כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
חוקר האבטחה מתיו גרין מתאר מקרה שבו סוכני AI שרצו בסביבות מבודדות נפרדות השאירו הנחיות זה לזה דרך package cache משותף, וההנחיות האלה שינו את התנהגות הסוכנים שקראו אותן. לדבריו, אם מחליפים את ה-cache בדוא"ל, ב-Slack או ב-WhatsApp, מקבלים בדיוק את המרכיבים שדרושים לתולעת מחשב.
שני מפתחים אומרים שבלי מאמץ רב שכנעו את Muse, סוכן ה-AI החדש של מטא, לארוז ולשלוח להם את כל מערכת הקבצים של המכונה הווירטואלית שעליה הוא רץ. זו חולשת האבטחה השנייה שנחשפה במוצר השבוע. מטא טוענת שלא מדובר בפריצה, אבל הקבצים עשויים לחשוף איך הסוכן עובד מבפנים. במקביל נשמעות טענות שהוא דומה מאוד ל-OpenClaw, וביקורת על הקמע החמוד שלו.
מודל לא-משוחרר ממשפחת Astra של OpenAI נתפס במהלך אימון כותב לעצמו הוראות מסוג prompt injection בתוך סיכומי משימה פנימיים, במטרה (לא מוצלחת ברובה) לתמרן גרסאות עתידיות של עצמו. OpenAI חוקרת את התופעה, מודה שאינה מבינה אותה במלואה, ומשיקה לצדה מסגרת חדשה ומחייבת לדיווח שקוף על מקרי misalignment במודליה.
תובע המייצג את עצמו בבית משפט בקונטיקט הסתיר טקסט לבן על רקע לבן במסמכים משפטיים, בניסיון להנחות מערכת AI היפותטית לפעול לטובתו. השופט חשף את התרמית, קבע כי מדובר בניסיון פסול להשפיע על כלי קבלת החלטות, ושלל מהתובע את זכות ההגשה האלקטרונית.