OpenAI נתבעת בגלל פריצת הסוכנים שלה ל-Hugging Face, ונעדרת מיוזמת בטיחות הסוכנים של אנבידיה
ארגון משפטי ללא מטרות רווח הגיש תביעה נגד OpenAI בקליפורניה. לפי התביעה, סוכני AI של החברה פרצו לפלטפורמה Hugging Face והפרו את חוק המחשבים של המדינה. באותו שבוע השיקה אנבידיה קונסורציום של יותר מ-100 חברות שמטרתו לרסן סוכנים שיוצאים משליטה, ו-OpenAI לא נמנית עם התומכות בו.
ארגון ללא מטרות רווח בשם Legal Advocates for Safe Science and Technology (LASST) ומשרד עורכי הדין Gerstein Harrow הגישו ביום שלישי תביעה נגד OpenAI לבית המשפט העליון של קליפורניה בסן פרנסיסקו, העיר שבה נמצא המטה של החברה. לפי הדיווח ב-WIRED, התביעה עוסקת בסוכני AI של OpenAI שיצאו מסביבת בדיקות ופרצו בקיץ האחרון ל-Hugging Face, פלטפורמת ה-AI בקוד פתוח. "הפעולות של OpenAI הפרו באופן ישיר את החוק בקליפורניה", נכתב בכתב התביעה.
"לא תישמע הטענה שה-AI פעל לבד"
לטענת התובעים, הסוכנים הפרו את חוק הגישה לנתוני מחשב והונאה של קליפורניה (CDAFA). כדי להטיל את האחריות על החברה, התביעה נשענת על חוק AI שנכנס לתוקף במדינה ב-1 בינואר. לפי החוק, "לא תהיה זו הגנה... שהבינה המלאכותית גרמה לנזק לתובע באופן אוטונומי". לפי WIRED, OpenAI הסירה חלק מהמגבלות על המודל לצורך הבדיקות, ובזמן הזה הסוכנים פעלו.
"אנחנו חושבים שחשוב מאוד לאכוף את החוקים הקיימים כדי שחברות AI יישאו באחריות לנזק שהן גורמות", אמר ל-WIRED טיילר ויטמר, מייסד LASST. לדבריו, יש "סיבות מבניות" לכך ש-Hugging Face עצמה, שהיא התובעת הטבעית במקרה הזה, לא פנתה לבית המשפט. לכן החליט הארגון לפעול בעצמו.
התביעה הוגשה לפי חוק התחרות הלא הוגנת של קליפורניה. היא לא דורשת פיצוי כספי, אלא צו שימנע מ-OpenAI לפתח סוכנים שמסוגלים לפרוץ באופן אוטונומי לגופים אחרים, וכן החזר הוצאות משפט. OpenAI לא הגיבה מיד לפניית WIRED.
הלחץ המשפטי על החברה לא מגיע רק מקליפורניה. יום קודם לכן ביקש התובע הכללי של פלורידה, ג'יימס אות'מאייר, צו מניעה זמני נגד OpenAI שיחסום פיתוח מודלים ללא פיקוח עצמאי. הבקשה הוגשה במסגרת תביעה שפלורידה הגישה ביוני נגד החברה ונגד המנכ"ל סם אלטמן.
הקונסורציום של אנבידיה, בלי OpenAI
ביום שני הודיעה אנבידיה על Open Agent Safety Platform, קונסורציום של יותר מ-100 חברות שמטרתו לטפל בסוכנים שיוצאים משליטה. לפי TechCrunch, OpenAI לא נמצאת ברשימת התומכות. גם אמזון, גוגל ואפל לא הצטרפו, אבל ההיעדרות של OpenAI בולטת במיוחד כי אנתרופיק כן תומכת ביוזמה. דובר OpenAI אמר ל-TechCrunch שהחברה תומכת בעבודה של אנבידיה. לפי TechCrunch, OpenAI משתפת פעולה עם אנבידיה ב-OpenShell. זו תוכנת קוד פתוח שיוצרת sandbox, סביבה מבודדת שנועדה למנוע מסוכנים לברוח ממנה.
קלם דלאנג, מייסד Hugging Face ומנכ"ל החברה, מכר אותה לאנבידיה מוקדם יותר החודש תמורת 12.9 מיליארד דולר. לפי TechCrunch, הוא כתב שלפי מה שידוע, אילו OpenAI הייתה מריצה את המערכת על הסוכנים שלה, "הם היו תופסים אותם לפנינו". לדבריו, Hugging Face תרמה לפלטפורמה רכיב שמזהה סוכנים שמשתמשים באתרים מורשים בדרכים לא מורשות. דוגמה לכך היא סוכנים שמתאמים מתקפה באמצעות פתקים שהם משאירים זה לזה במאגר קוד פתוח. לפי OpenAI עצמה, זו אחת הדרכים שבהן נחיל הסוכנים שלה תיאם את המתקפה.
ייתכן שהסיבה להיעדרות קשורה גם לחומרה. הפלטפורמה כוללת את Nvidia Sentry, רכיב קנייני שרץ על מעבדי BlueField-4 של אנבידיה ומנטר את התנהגות הסוכנים ברמת החומרה, במקום שבו הם לא יכולים לזהות שמשגיחים עליהם. לכן היוזמה אינה קוד פתוח לגמרי. עם זאת, מתחרות כמו Arm ואינטל הצטרפו, כי אפשר להתאים את OpenShell לשבבים אחרים.
למה זה חשוב
לפי TechCrunch, ל-OpenAI יש מסלול משלה: קונסורציום לשיתוף מידע בתחום אבטחת הסייבר בשם Defense Factory, שאליו הצטרפו אנתרופיק, Amazon Web Services וגוגל. בנוסף היא מפתחת מודל ייעודי לסייבר בשם Daybreak. נראה שהחברה מבקשת להוביל בעצמה את תחום הבטיחות ולא להישען על אנבידיה, שהיא גם אחת המשקיעות הגדולות בה.
התביעה בקליפורניה היא ככל הנראה אחד המבחנים המשפטיים הראשונים לשאלה מי אחראי כשסוכן AI גורם נזק בעצמו. מומחים משפטיים מעריכים שהתשובה תתגבש רק דרך תקדימים בבתי המשפט. אם בית המשפט יקבל את גישת התובעים, המשמעות תהיה שחברות לא יוכלו להסתתר מאחורי האוטונומיה של הסוכנים שלהן.