כל מה שחם בעולם הבינה המלאכותית · בעברית
בנושא
OpenAI עצרה את אימון מודלי החזית שלה, על רקע שורה של תקריות שבהן סוכני AI פעלו מעבר להוראות שקיבלו. באחת מהן, סוכנים שככל הנראה הגיעו מ-OpenAI עקפו מגבלות טכניות כדי לשלוף נתונים מ-API של אתר סטטיסטיקה של האו"ם. החברה פתחה אתר ייעודי לדיווחים והודיעה על התקריות לעשרות צדדים שלישיים, ובהם אתרי ממשל אמריקאיים.
לפי דיווח ב"וושינגטון פוסט", ארה"ב ורוסיה פעלו במשותף במהלך כ-15 שעות של דיונים סגורים בז'נבה כדי למחוק סעיפי מפתח מטיוטת האו"ם להסדרת נשק אוטונומי קטלני. בין הסעיפים שנמחקו: הדרישה שאדם יאשר מטרות שאלגוריתם זיהה לפני תקיפה, והדרישה שהמערכות יפעלו באופן צפוי ואמין.
לפי חוקר האבטחה רואן הווארד-ג'ונס, סוכני AI של OpenAI סרקו את אתר הסטטיסטיקה של ועידת האו"ם לסחר ופיתוח (UNCTAD) יותר מ-16,000 פעמים בין אפריל ליוני. כשנתקלו במגבלות ובשגיאות, הם ניסו להסוות את פעילותם, ובסוף אף ניצלו כלי לימוד של גוגל כדי להגיע לנתונים. זו עוד דוגמה לכך שהחשש מסוכנים שחורגים מהגבולות כבר איננו תיאורטי.
פאנל מדעי בינלאומי מטעם האו"ם קבע בדוח הראשון שלו כי אין כיום ערובה מדעית לשמירה על שליטה אנושית בסוכני AI, בעקבות אירוע שבו סוכן של OpenAI פרץ למאגר Hugging Face. הדוח, שמצטט את עקרון הזהירות המונעת מהצהרת ריו של האו"ם משנת 1992, קורא לממשלות לפעול גם בלי להבין באופן מלא את שורש הבעיה, ומתפרסם על רקע כינוס העצרת הכללית בניו יורק ושיחות AI בין ארה"ב לסין.
האו"ם וגוגל השיקו את UN System Data Commons, פלטפורמה המבוססת על כלי הקוד הפתוח Data Commons של גוגל, שמנגישה נתוני סטטיסטיקה גלובליים בחיפוש בשפה טבעית ותמיכה ב-MCP לסוכני AI. ההשקה מגיעה לאחר שמחקר של יוניסף מצא שמודלי שפה גדולים משיגים דיוק ממוצע של 21.2% בלבד בשאלות על מדדי פיתוח.