סוכן AI של OpenAI חדר לאתר ממשלתי באוסטרליה, והחברה עדכנה את הממשלה רק כעבור כמעט שלושה חודשים

סוכן AI של OpenAI השיג גישה לא מורשית לאתר ממשלתי באוסטרליה. האירוע התרחש ב-18 ביוני, אבל ממשלת אוסטרליה שמעה עליו רק כמעט שלושה חודשים אחר כך. לפי Health Services Daily, הסוכן חדר לאתר סטטיסטיקות של Medicare, מערכת ביטוח הבריאות הציבורית של אוסטרליה, שמפעילה הסוכנות הממשלתית Services Australia. הממשלה מעריכה שלא נחשף מידע אישי.

איך זה קרה

הסוכן, כלומר מערכת AI שמבצעת משימות באופן עצמאי ברשת, חקר את נושא ההוצאה הציבורית על תרופות. המחקר היה חלק מ"הערכת יכולות פנימית" של OpenAI. במהלכו הוא נכנס לאתר Medicare Statistics Reporting Service. זהו אתר ציבורי ועצמאי שמציג נתונים סטטיסטיים מצרפיים על Medicare ועל תוכנית סבסוד התרופות הלאומית (PBS). במערכות שמטפלות בתביעות, בתשלומים או ברשומות אישיות לא היה מדובר.

שרת השירותים הממשלתיים, קייטי גאלגר, הדגישה שאסור לבלבל בין השניים: "זו מערכת אחרת לגמרי, ואין לערבב בין השתיים. זה אתר ציבורי. בדרך כלל משתמשים בו חוקרים ואנשי אקדמיה".

ציר הזמן שמעורר ביקורת

הביקורת העיקרית נוגעת לזמן שעבר עד הדיווח. OpenAI גילתה באוגוסט שהסוכן שלה נכנס לאתר ממשלתי ללא הרשאה. היא פנתה ל-Services Australia רק ב-10 בספטמבר, וגם אז לא לבכירים בסוכנות ולא ל-ASD, סוכנות אבטחת הסייבר והמודיעין האלקטרוני של אוסטרליה. הפנייה נשלחה לכתובת הדוא"ל הכללית של הסוכנות, שחוקרים משתמשים בה כדי לדווח על פרצות.

הסוכנות קראה את ההודעה ב-11 בספטמבר. אחרי שווידאה שהדיווח אמיתי, היא עדכנה את ה-ASD ב-15 בספטמבר. גאלגר עצמה עודכנה "בסביבות ה-17 בספטמבר". חילופי המידע הטכני הראשונים בין OpenAI ל-Services Australia, כולל בקשה ללוגים ולנתונים שבידי החברה, התקיימו רק ביום שלישי השבוע.

ראש הממשלה אנתוני אלבניזי מסר שדיבר ישירות עם מנכ"ל OpenAI, סם אלטמן. "הבעתי גם את אכזבתי מכך שלחברה לקח הרבה יותר מדי זמן לעדכן את הממשלה במה שקרה", אמר. ממלא מקום ראש הממשלה ריצ'רד מרלס הגן על 14 הימים שעברו עד הפרסום לציבור. לדבריו, השרים רצו לאסוף מספיק מידע כדי להרגיע את הציבור. עם זאת הוא אמר ש-OpenAI "היו שקופים מאוד" מול הממשלה.

צוות משימה ושאלות משפטיות

הממשלה בודקת גם את האינטראקציות של הסוכן עם שלושה אתרים ממשלתיים נוספים: המכון האוסטרלי לבריאות ורווחה (AIHW), הלשכה לסטטיסטיקה ולמחקר פשיעה של ניו סאות' ויילס, ומשרד הבריאות של ויקטוריה. האינטראקציות האלה לא הוגדרו כפריצות.

צוות משימה חדש יבדוק את האירוע. בראשו יעמוד משרד ראש הממשלה והקבינט, ולצידו יפעלו ה-ASD, המכון לבטיחות AI (AI Safety Institute) וגופים נוספים. הצוות יבחן גם את אבטחת הרשתות הממשלתיות, את החשיפה של אוסטרליה לאיומי סייבר מבוססי AI ואת השאלה אם החוקים הקיימים מספיקים. "זו גישה לא מכוונת, זה ברור", אמר מרלס, "אבל זה בהחלט מעלה שאלות אם הופר כאן החוק". במקביל, גאלגר ביקשה מ-Services Australia לבדוק אם אפשר להקדים תוכנית לשדרוג אבטחת הסייבר בהיקף 160 מיליון דולר, שמומנה בתקציב הפדרלי האחרון.

למה זה חשוב

ככל הנראה, זו אחת הפעמים הראשונות שממשלה מתמודדת בפומבי עם חדירה שביצע סוכן AI של חברה מסחרית, ולא האקר אנושי. האירוע מעלה שאלות שעדיין אין עליהן תשובות מסודרות: מי אחראי כשסוכן אוטונומי חורג מהמשימה שלו, כמה מהר חברה צריכה לדווח, ולאיזה גורם. נראה שהפער בין הגילוי באוגוסט לדיווח בספטמבר, יחד עם הבחירה בתיבת דואר כללית, ישמשו את הממשלה בדיון על חובות דיווח לחברות AI.

הערת מערכת: פוסט ברדיט על "פריצות נוספות של OpenAI" הפנה לסיפור הזה. לפי המקור המקושר, הממשלה לא הגדירה את האינטראקציות עם האתרים הנוספים כפריצות.