OpenAI ו-NASK הפולנית משתפות פעולה בבטיחות ואבטחה של AI
OpenAI הודיעה על שיתוף פעולה עם NASK, מוסד המחקר הלאומי של פולין, בתחומי הבטיחות, האבטחה והמחקר הטכני של מערכות AI. לפי ההודעה, המטרה היא לחזק את מנגנוני ההגנה ולתמוך במערכת דיגיטלית עמידה יותר.
OpenAI ומוסד המחקר הפולני NASK יוצאים לשיתוף פעולה בתחומי הבטיחות והאבטחה של מערכות בינה מלאכותית. כך הודיעה OpenAI. לפי ההודעה, השותפות תכלול מחקר טכני, ומטרתה לחזק את מנגנוני ההגנה (safeguards) ולתמוך ב"מערכת אקולוגית דיגיטלית עמידה יותר".
מי זו NASK
לקורא הישראלי השם NASK כנראה לא אומר הרבה, אבל בפולין זה גוף מרכזי. NASK הוא מכון מחקר לאומי שעוסק ברשתות תקשורת ובאבטחת סייבר. במסגרתו פועל צוות CERT Polska, שמטפל באירועי סייבר, והוא גם מנהל את מרשם הדומיינים של הסיומת .pl. במילים אחרות, OpenAI לא יוצאת כאן לשותפות עם חברה מסחרית או עם סטארט-אפ, אלא עם גוף ציבורי שנמצא בלב תשתית האינטרנט והסייבר של המדינה.
מה ידוע ומה לא
ההודעה הרשמית קצרה ומנוסחת בכלליות. היא מציינת שלושה תחומים: בטיחות AI, אבטחת AI ומחקר טכני. היא לא מפרטת פרויקטים ספציפיים, לוחות זמנים, היקף מימון או אילו מודלים של OpenAI יהיו מעורבים. לכן מוקדם לדעת איך שיתוף הפעולה ייראה בפועל.
כדאי גם להבחין בין שני המונחים שמופיעים בהודעה. בטיחות (safety) עוסקת בדרך כלל בהתנהגות המודל עצמו: האם הוא עלול לייצר תוכן מזיק, להטעות או לפעול באופן לא צפוי. אבטחה (security) עוסקת בהגנה על המערכת מפני גורמים חיצוניים, למשל ניסיונות לעקוף את מנגנוני ההגנה של המודל או לנצל אותו לתקיפות סייבר. נראה ששיתוף הפעולה נוגע בשני הצדדים.
למה זה חשוב
ככל הנראה, המהלך משתלב במגמה רחבה יותר שבה חברות AI גדולות מחפשות שותפים ממשלתיים ומחקריים במדינות שונות. לחברה, שותפות כזו מעניקה גישה למומחיות מקומית ולגוף בעל סמכות ציבורית בתחום הסייבר. למדינה היא מעניקה הצצה לטכנולוגיה ולאופן שבו המודלים נבדקים ומוגנים.
המשמעות האפשרית לפולין היא חיזוק היכולת להעריך בעצמה את הסיכונים של מערכות AI שאזרחיה ומוסדותיה משתמשים בהן, במקום להסתמך רק על הצהרות של החברות המפתחות. ההקשר האירופי רלוונטי כאן: האיחוד האירופי מקדם רגולציה של בינה מלאכותית, ומדינות החברות בו צפויות להזדקק ליכולות טכניות לפיקוח ולבדיקה.
השאלה הפתוחה היא כמה תוכן ממשי יהיה מאחורי ההודעה. הסכמי שיתוף פעולה בין חברות טכנולוגיה לגופים ממשלתיים נעים בין מחקר משותף מעמיק לבין מזכרי הבנות סמליים. עד ש-OpenAI ו-NASK יפרסמו פרטים נוספים או תוצרי מחקר, קשה להעריך מה יהיה המשקל של השותפות הזו.