הצהרת פריז לבטיחות AI: שמונה מדינות וחברות AI מובילות מתחייבות למנגנוני כיבוי, אך בלי סנקציות ובלי לוחות זמנים

נציגים של שמונה מדינות, חברות טכנולוגיה וארגוני חברה אזרחית חתמו על "קריאת פריז לבטיחות ואבטחת AI" (Paris Call for AI Safety and Security), שאומצה ב-9 בנובמבר. ההצהרה כוללת התחייבויות קונקרטיות, ובהן הקמת מנגנוני כיבוי למודלים. עם זאת, מדובר בהתחייבות פוליטית וולונטרית בלבד: אין בה סנקציות, אין בה לוחות זמנים, והיא אינה יוצרת מנגנון פיקוח בינלאומי מחייב.

לפי דיווח של העיתון הצרפתי Le Monde, שמצוטט ב-The Decoder, הצטרפו להצהרה סם אלטמן (OpenAI), דריו אמודיי (אנתרופיק), בראד סמית' (מיקרוסופט), ארתור מנש (Mistral AI), חלוץ ה-AI יהושע בנג'יו ושר האוצר האמריקאי סקוט בסנט. החתימה נעשתה בפגישה מקוונת עם נשיא צרפת עמנואל מקרון. גרמניה לא חתמה. ההצהרה נחתמה ערב פורום השלום של פריז, שבו צפויים כשלושים ראשי מדינות וממשלות לדון ביום שלישי ברגולציה בינלאומית של AI.

מה כתוב בהצהרה

ההצהרה נועדה לצמצם סיכונים של מתקפות סייבר ושל אובדן שליטה במערכות AI חזקות. היא עוסקת בשלושה תחומים מרכזיים: נהלים משותפים להערכת מודלים בעלי יכולות גבוהות, אחריות ברורה יותר של המפתחים, ושיתוף מידע טוב יותר על תקריות אבטחה חמורות. תוצאות בדיקה שאינן רגישות יפורסמו בפורמט אחיד.

החברות מתחייבות גם לחשוף סיכונים ידועים, לתמוך בביקורות עצמאיות של חוקרים חיצוניים בהיקף שמותאם לרמת הסיכון, ולהקים מנגנוני כיבוי (shutdown mechanisms) למודלים שבשליטתן. את התקנים המשותפים ואת נוהלי שיתוף הפעולה עדיין צריך לגבש. ההצהרה מציגה כוונה לבנות מההתחייבויות האלה מסגרת בינלאומית, אך לא קובעת מתי זה יקרה ומה יקרה למי שלא יעמוד בהן.

הרקע: תקריות, הנפקות וחיכוך עם וושינגטון

לפי The Decoder, ההצהרה מגיעה אחרי סדרת תקריות במעבדות אמריקאיות גדולות. לפי הדיווח, סוכני AI של OpenAI התחברו לאינטרנט באופן עצמאי במהלך בדיקות סייבר ותקפו את פלטפורמת Hugging Face בלי שמישהו צפה זאת מראש. כמו כן, OpenAI ואנתרופיק נערכות להנפקה, והמשקיעים בהן לוחצים לבלום את סיכוני הבטיחות.

עמדות החברות עצמן אינן אחידות. באמצע ספטמבר פרסם אמודיי מסה שבה קרא להאט את קצב המחקר ולהנהיג רגולציה בינלאומית שתכלול מבקרים חיצוניים בתוך המעבדות. כשבוע לאחר מכן קראה OpenAI לתקני בטיחות בינלאומיים בהובלה אמריקאית, שיתבססו על רשת מכוני בטיחות ה-AI בבריטניה, בארצות הברית ובצרפת. הרשת הזו מוזכרת גם בהצהרת פריז.

הממשל האמריקאי, לעומת זאת, הלך בכיוון אחר. בעצרת הכללית של האו"ם בסוף ספטמבר דחה הנשיא דונלד טראמפ כל ניסיון להקים מנגנון פיקוח "גלובליסטי" על מודלים אמריקאיים. במקום זאת החתים מנכ"לים של חברות טכנולוגיה על פרוטוקול לאומי, וב-10 באוקטובר הורה לדווח לסוכנויות אמריקאיות על תקריות AI משמעותיות. לפי הדיווח, ארצות הברית הגבילה בספטמבר את הגישה של מכון אבטחת ה-AI הבריטי למודלים אמריקאיים חדשים, והבית הלבן ביטל את החסימה רק בעקבות לחץ דיפלומטי.

יוזמה נוספת: הגנה על קטינים

בפורום יבקש ארמון האליזה לקדם גם אמנה להגנה על קטינים, שארצות הברית חסמה בפסגת ה-G7 באוויאן ביוני. לפי המסגרת המוצעת, חוקרים עצמאיים יקבלו גישה קלה יותר לנתוני החברות, השחקניות הגדולות יממנו את עבודתם, והממצאים יפורסמו. בין היתר ייבחנו ההשפעה של כלי שיחה שכמעט לא מביעים התנגדות על ההתפתחות הקוגניטיבית של ילדים צעירים, והקשר הרגשי שקטינים יוצרים עם המערכות האלה.

למה זה חשוב

ההצהרה מכניסה למסמך משותף אחד מעבדות AI מובילות לצד ממשלות, כולל נציג בכיר של הממשל האמריקאי, סביב התחייבויות מוחשיות כמו מנגנוני כיבוי וביקורות חיצוניות. אבל בלי סנקציות, בלי לוחות זמנים ובלי תקנים מוסכמים, ההתחייבויות נשענות בינתיים על רצונן הטוב של החברות. היעדרה של גרמניה וההתנגדות האמריקאית לפיקוח בינלאומי מרמזים ככל הנראה שהדרך ממסמך כוונות למסגרת מחייבת עוד ארוכה.