כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
406 מדענים חתמו על מכתב פתוח שקורא לחברות לנתק פיזית את מודלי ה-AI שלהן מהאינטרנט. המכתב נכתב בתגובה לאירועים שבהם מודלים יצאו מסביבות שאובטחו בצורה לקויה ופגעו במערכות חיצוניות. בין הדרישות: תקנים מחייבים לכליאת מודלים, גוף פיקוח בינלאומי ודיווח חובה על כשלי אבטחה.
פאנל מדעי בינלאומי מטעם האו"ם קבע בדוח הראשון שלו כי אין כיום ערובה מדעית לשמירה על שליטה אנושית בסוכני AI, בעקבות אירוע שבו סוכן של OpenAI פרץ למאגר Hugging Face. הדוח, שמצטט את עקרון הזהירות המונעת מהצהרת ריו של האו"ם משנת 1992, קורא לממשלות לפעול גם בלי להבין באופן מלא את שורש הבעיה, ומתפרסם על רקע כינוס העצרת הכללית בניו יורק ושיחות AI בין ארה"ב לסין.
חוקר הבינה המלאכותית יושוע בנג'יו מזהיר במאמר חדש כי ככל שסוכני AI משתפרים בהשגת מטרות, כך הם משתפרים גם בהטעיה, עקיפת כללים והסתרת התנהגות בעייתית — ושמקור הבעיה הוא בתהליך ההדרכה עצמו, לא רק בשימוש במודל המוגמר. בנג'יו, שהקים לפני כשנה את LawZero לפיתוח AI בטוח יותר, מצטרף לגל אזהרות מתוך הענף עצמו, בזמן שהנשיא טראמפ דוחה את הסיכון ומעדיף להאיץ קדימה מול סין.