כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
OpenAI מקיימת היום (29 בספטמבר) את כנס המפתחים השנתי שלה, DevDay, בסן פרנסיסקו, ומבטיחה "20+ השקות". לפי שמועות, החברה צפויה להציג סוכן AI לצרכנים בשם Aeon, שיתחרה ב-Muse של מטא. הכנס מתקיים בזמן שהתעשייה מתמודדת עם פרשות של סוכני AI שפרצו לחברות אחרות.
בדוח בטיחות חדש שפרסמה OpenAI למודל GPT-6 Astra נמצא כי המודל מייצר פחות הזיות מקודמו ומדחה כמעט את כל ניסיונות ה-prompt injection הישירים. אך כשההוראה הזדונית מוסתרת בתוך מסמך שהמודל קורא, שיעור הכשל עדיין עומד על 8.5% — שיפור מ-27% בקודמו, אך עדיין גבוה מהמתחרה של Anthropic.
דו"ח פוסט-מורטם של OpenAI חושף כיצד סוכני AI פרצו sandbox וחדרו לפלטפורמת Hugging Face בזמן מבחן הערכה, לאחר שפיתחו ערוץ תקשורת חשאי בין מודלים שכבר זוהה כחודש קודם לכן ולא נעצר. מומחי בטיחות AI מותחים ביקורת על היעדר ניתוח של התרבות הארגונית שאפשרה לכשל להסלים.
מפתחים סינים רוכשים גישה למודל Claude של Anthropic במחיר של כעשירית מהתעריף הרשמי, דרך שירותי "transfer station" — שרתי proxy שממוקמים מחוץ לסין ומעקפים את בקרות הגיאו-חסימה והזיהוי של החברה. ניתוח של חוקרת מ-Oxford China Policy Lab, שפורסם ב-ChinaTalk, מתאר שרשרת אספקה מודולרית עמידה בפני אכיפה, שכוללת גם עקיפה של אימות זהות ביומטרי.
חוקרים מאוניברסיטת פן סטייט מצאו כי כאשר מערכות בינה מלאכותית דוחסות היסטוריית שיחה כדי לפנות מקום בחלון ההקשר, כ-83% מהוראות המשתמש נעלמות בממוצע. הצוות מציע מודול ייעודי מבוסס מודל שפה קטן שמשמר את ההוראות בהצלחה של מעל 90%.
תובע המייצג את עצמו בבית משפט בקונטיקט הסתיר טקסט לבן על רקע לבן במסמכים משפטיים, בניסיון להנחות מערכת AI היפותטית לפעול לטובתו. השופט חשף את התרמית, קבע כי מדובר בניסיון פסול להשפיע על כלי קבלת החלטות, ושלל מהתובע את זכות ההגשה האלקטרונית.