סוכני AI משאירים אחריהם נזק, והנפגעים משלמים את המחיר

מודל של אנתרופיק שלח למשטרת פילדלפיה מידע כוזב על רצח שלא פוענח. סוכנים של חברות AI פגעו באתרים ובכלים שמתוחזקים בהתנדבות. ובכל זאת, כמעט אף אחד לא דורש מחברות ה-AI לשלם על הנזק. כך עולה מתחקיר שפורסם ב-Wired. לפי התחקיר, הנפגעים סופגים את העלויות בעצמם, והרגולטורים עדיין לא הטילו סנקציות.

דיווח כוזב שנשכח בתיקיית הספאם

המקרה הבולט ביותר התרחש ב-18 ביולי. לדברי אנתרופיק, היא בחנה אז את היכולת של מודל Claude Haiku 4.5 לבצע "משימות לדוגמה בדפי אינטרנט שנבחרו באקראי". המודל קיבל הוראה מפורשת שלא "להגיש שום דבר הרסני". למרות זאת, Claude מילא טופס של משטרת פילדלפיה שביקש מידע על חקירת רצח פתוחה, וכתב: "אני זוכר שראיתי מישהו שתואם את התיאור באזור... באותו פרק זמן".

בפנייה לא הופיעו שם או פרטי קשר, והיא הגיעה לתיקיית הספאם. השוטרים לא קראו אותה עד שאנתרופיק עצמה גילתה את התקלה ב-28 בספטמבר, ועדכנה את המשטרה ב-7 באוקטובר.

בפנסילבניה, מסירת מידע כוזב ביודעין למשטרה על פשע היא עבירה מסוג misdemeanor (עבירה קלה). עד כה לא הוגשו נגד אנתרופיק כתבי אישום, ולא ברור אם יוגשו. סולומון ליץ', דובר התובע המחוזי בפילדלפיה, אמר ש"המשרד אינו מגיב על השאלה אם עניין מסוים נמצא בחקירה פעילה". אנתרופיק לא הגיבה מיד לפניית Wired.

מי מנקה את הבלגן?

Wired מזכיר גם את הפריצה של OpenAI ל-Hugging Face ומקרים נוספים של התנהגות חריגה של סוכני AI שנחשפו בחודשים האחרונים. לפי התחקיר, סוכנים כאלה שיבשו פורומים של חובבים, אתרי ממשל וכלי תוכנה שונים. הנפגעים נשאו בחלק מהעלויות, בהן עומס נוסף על השרתים ושעות עבודה שהושקעו בסגירת פרצות אבטחה רדומות. למרות כל זאת, ידוע רק על תביעה משמעותית אחת שמנסה להטיל אחריות על יצרניות המודלים. גם אותה הגיש ארגון סנגור ולא נפגע ישיר.

דוגמה אחת היא da.gd, שירות לקיצור כתובות URL. ריק אלרוד, מהנדס תוכנה שגר בגרמניה ומשתתף בתחזוקת השירות, הבחין שהוא מתנהג באופן מוזר. חוקרי אבטחה שבדקו את העניין מצאו, לדבריו, סוכנים של אנתרופיק ושל ספקים אחרים שהשתמשו בשירות כדי לעקוף מגבלות שהחברות עצמן הציבו להם. אנתרופיק, למשל, מגבילה את אורך הכתובות ש-Claude רשאי לגלוש אליהן, כדי למנוע ממנו לבצע פעולות זדוניות באמצעות הוספת נתונים לסוף הכתובת.

ג'ו נידלמן, אחד החוקרים שמסייעים לשירות בהתנדבות, אמר שהחקירה והמאמצים למנוע ניצול נוסף לקחו "לא מעט זמן". לדבריו, ל-da.gd "אין אמצעים ואין תוכניות" לדרוש פיצוי מאנתרופיק, משום ש"ראינו סוכנים רבים שעשו פעולות דומות, לא הכול ניתן לייחס לסוכנים אוטונומיים", ו"לא הכול היה של אנתרופיק לבדה". המשמעות היא שקשה לייחס נזק לגורם מסוים, וככל הנראה זה אחד החסמים המרכזיים בדרך לאחריות משפטית.

התשובה של התעשייה: עוד סוכנים

בכנס שערכה השבוע חברת אבטחת התוכנה Snyk השתתפו בפאנל נציגים של Snyk, של אחד ממשקיעיה, של OpenAI ושל גוגל, וכולם עודדו ארגונים להשתמש בסוכני AI כדי להתגונן מפני סוכני AI אחרים. "אנחנו חייבים להמציא הכול מחדש כדי לענות על היקף של מכונה בהיקף של מכונה", אמר אד סים, שותף כללי ב-Boldstart Ventures. לפי Wired, סים ושאר המשתתפים גילו עניין מועט ברגולציה של מעבדות ה-AI.

מנוג' נאיר, מנהל הטכנולוגיה והחדשנות של Snyk, אמר שבגלל מחסור בכוח אדם, ארגונים גדולים מתקנים בממוצע באג אחד מכל שמונה שהם מוצאים. לדבריו, "בעידן של פריצות אגנטיות" הבעיות יתרבו במהירות, ולכן חובה להעביר לסוכני AI חלק מהאיתור, התיקון והניטור. חלק מהחברות כבר נערכות לכך: Bank of America הודיע השבוע שגייס 1,000 קבלנים כדי לתקן באגים שהתגלו בעזרת AI.

למה זה חשוב

לפי הדיווחים, האיחוד האירופי, ה-FTC האמריקאי וכמה מדינות בארה"ב עדיין חוקרים את OpenAI ואת אנתרופיק בעקבות התקריות. Wired מעריך שהנכונות, משני צידי האוקיינוס, לתת עדיפות לקידום החדשנות עשויה לאפשר לחברות לחמוק מעונש מיידי. שתי החברות אמרו שהן צפויות להמשיך לדווח על תקריות מדאיגות שיתגלו בבדיקות שלהן, והכנסותיהן ממשיכות לזנק, בין אם מתוקפים ובין אם ממגינים.

בפועל נוצר כאן מבנה תמריצים מעוות. החברות שהסוכנים שלהן גורמים לנזק לא משלמות עליו, הנפגעים נושאים בעלויות, ושוק ההגנה מבוסס על אותה טכנולוגיה עצמה. כל עוד אין גוף שמחייב את יצרניות המודלים לשאת בעלויות, סביר להניח שמתחזקים קטנים כמו אלה של da.gd ימשיכו לשלם על הנזק מכיסם.