אוסטרליה מציעה חוק בטיחות AI: מודלי הגבול ייפתחו לביקורת של גורמים עצמאיים

ממשלת אוסטרליה, בראשות ראש הממשלה אנתוני אלבניזי, הודיעה על חוק שיטיל לראשונה כללי בטיחות מחייבים על חברות AI שמפתחות "מודלי גבול" (frontier models) ופועלות במדינה. מודלי גבול הם המודלים המתקדמים ביותר בשוק. לפי ההצעה, החברות יידרשו לפתוח את המודלים שלהן לביקורת של גורמים עצמאיים. גוף פיקוח חדש יאכוף את הכללים ויוכל להטיל קנסות כבדים על מי שיפר אותם.

מה החוק ידרוש מהחברות

לפי הדיווח ב-The Decoder, החוק חל על המודלים המתקדמים ביותר, אלה שפרופיל הסיכון שלהם הוא הגבוה ביותר. הוא כולל ארבע חובות עיקריות:

• ביקורות עצמאיות: החברות יאפשרו לגורמים חיצוניים לבדוק את המודלים.
• בדיקות בטיחות שוטפות: הבדיקה לא תסתיים בהשקה, והחברות יידרשו להמשיך בה לאורך חיי המודל.
• שקיפות: החברות יפרסמו את מסגרות הבטיחות שלהן (safety frameworks), כלומר את הנהלים שבהם הן מזהות סיכונים ומטפלות בהם.
• דיווח מיידי: כל אירוע אבטחה ידווח לממשלה מיד.

לפי הדיווח, חובת הדיווח נועדה בין השאר לזהות מוקדם סימני אזהרה מסוכני AI (AI agents) שיוצאים משליטה. סוכנים הם מערכות שמבצעות פעולות באופן עצמאי ולא רק עונות לשאלות. ככל הנראה, ככל שסוכנים כאלה יפעלו יותר בעולם האמיתי, כך תגדל חשיבותו של מנגנון התרעה מהיר.

גוף הפיקוח החדש יעבוד לצד המכון האוסטרלי לבטיחות AI (Australian AI Safety Institute). היוזמה היא חלק מסדר היום הממשלתי "AI in Australia's Interests". הדיווח לא מפרט את גובה הקנסות, את הקריטריונים המדויקים לזיהוי מודל גבול או לוח זמנים להחלת החוק. לדברי הממשלה, פרטים נוספים יפורסמו בתום שלב ההתייעצויות.

קודם בבית, אחר כך בזירה הבינלאומית

ראש הממשלה אלבניזי, סגנו ריצ'רד מארלס והשרים טוני בורק וטים איירס אמרו שהממשלה רוצה לקבע מנגנוני בטיחות מקומיים לפני שתיכנס למשא ומתן בינלאומי. לדבריהם, המטרה היא להגן על האזרחים ועל האינטרסים הלאומיים. לצד זה, הממשלה מבקשת לבנות אמון ויציבות רגולטורית שימשכו השקעות ויאפשרו ל-AI לתרום לכלכלה ולמערכת הבריאות.

למה זה חשוב

אוסטרליה היא לא הראשונה שמנסה להסדיר את התחום. האיחוד האירופי, למשל, כבר אימץ את ה-AI Act. אבל המהלך האוסטרלי מתמקד ישירות בשכבה העליונה של התעשייה: החברות הגדולות שמפתחות את המודלים החזקים ביותר. המשמעות היא שחברות כמו אנתרופיק, גוגל או מטא עשויות למצוא את עצמן מחויבות בחוק לחשוף את המודלים שלהן לבדיקה חיצונית, כדי להמשיך לפעול בשוק האוסטרלי.

גם התזמון מעניין. ההחלטה לחוקק לפני הכניסה למשא ומתן בינלאומי מעידה ככל הנראה על רצון להגיע לשולחן עם מודל רגולטורי מוכן, ולא רק עם עקרונות כלליים. לכמה סמכויות אכיפה יקבל הגוף החדש, וכמה מחמירים יהיו הכללים בפועל, יתברר רק כשהנוסח המלא של החוק יתפרסם.