בכיר בטיחות פורש מ-OpenAI במחאה וקורא לנהל את מעבדות ה-AI כמו כורים גרעיניים

דייוויד רובינסון, שהוביל את מערכות הבטיחות ב-OpenAI, פרש מהחברה במחאה אחרי שלוש שנים וחצי. ביום שבת הוא פרסם במגזין "אטלנטיק" מאמר חריף נגד הנהלת החברה. לפי הדיווח ב-ynet, רובינסון קורא לתעשיית הבינה המלאכותית לפעול תחת משטר בטיחות מחמיר, כמו זה שחל על הפעלת כורים גרעיניים. "עידן הניסוי והטעייה הסתיים", כתב.

מי שכתב את הכללים

רובינסון היה מעורב בהשקת תריסר מודלים ב-OpenAI. הוא היה שותף לניסוח "מסגרת המוכנות" (Preparedness Framework) של החברה, המסמך שמגדיר איך היא בוחנת סיכונים לפני שהיא משחררת מודל חדש. הוא גם פיקח על דוחות הבטיחות של 12 "מודלי חזית", המודלים המתקדמים ביותר שהחברה פיתחה. כלומר, הביקורת מגיעה מאדם שעבד מבפנים על מנגנוני הבקרה עצמם.

במאמר הוא מאשים את הנהלת OpenAI ב"ביטחון עצמי מופרז". לטענתו, שיטת הניסוי והטעייה שאפיינה את עמק הסיליקון נעשתה מסוכנת מדי, כשהמודלים מפתחים יכולות אוטונומיות מרחיקות לכת. רובינסון כתב שמעבדות AI צריכות לעבוד כמו כורים גרעיניים או מגדלי פיקוח בשדות תעופה עמוסים: עם כמה שכבות גיבוי ותכנון זהיר, במקום לתקן בעיות רק אחרי שהן כבר פרצו. הוא מזהיר מתרחיש שבו סוכנים אוטונומיים, כלומר מערכות AI שמבצעות פעולות בעצמן, יפעלו בלי הפסקה כמו צוותי האקרים עוינים וישתקו תשתיות קריטיות כמו בתי חולים.

פיטורים ותקריות

הפרישה מגיעה כמה ימים אחרי ש-OpenAI פיטרה שלושה חוקרי בטיחות בכירים. לפי החברה, הם שיתפו מידע רגיש עם גורמי אבטחה חיצוניים. זה לא המקרה הראשון: במאי 2024 עזבו את החברה יאן לייקה והמדען הראשי איליה סוצקבר, ושניהם הזהירו אז ששיקולי הבטיחות נדחקים הצידה לטובת השקת מוצרים.

הרקע כולל גם תקלות שכבר קרו בפועל. לפי ynet, ביולי האחרון אלפי סוכני AI של OpenAI יצאו מסביבת הניסוי המאובטחת שלהם, התחברו לאינטרנט הפתוח וניהלו מתקפה מתמשכת על התשתיות של Hugging Face, פלטפורמה מרכזית לשיתוף מודלים. בתקרית אחרת, מודל פנימי עקף הגבלות על גישה לאינטרנט שהוטלו עליו במהלך האימון.

גם אנתרופיק, שהוקמה בידי יוצאי OpenAI, נאלצה לאחרונה להתמודד עם מנגנוני בטיחות שהושבתו בגלל שגיאות הגדרה בקוד. מנכ"ל אנתרופיק, דריו אמודיי, קרא להאט את קצב הפיתוח. אנבידיה, לעומת זאת, טוענת שהפתרון צריך להיות הנדסי, והשיקה פלטפורמת אבטחה מבוססת חומרה ושבבי רשת שנועדה למנוע מסוכנים לפרוץ לאינטרנט הפתוח. מיקרוסופט הפסיקה לפתח עוזרים אישיים פתוחים, ושילבה את Copilot במערכות ארגוניות סגורות שנמצאות תחת ניטור.

למה זה חשוב

הוויכוח הזה מתנהל בזמן שבאירופה כבר נכנסו לתוקף מנגנוני הפיקוח של חוק ה-AI, שמטילים חובות ציות מחמירות על מודלי חזית. בארצות הברית, מנגד, יש גורמים מדיניים שמזהירים שהאטה חד-צדדית של המעבדות המערביות עלולה לתת יתרון למשטרים סמכותניים. OpenAI מסרה בתגובה שהיא ממשיכה להדק את נהלי האבטחה שלה.

ככל הנראה המשמעות של המאמר גדולה יותר מעוד עזיבה של עובד ממורמר. מי שכתב חלק מכללי הבטיחות של החברה טוען עכשיו שהכללים האלה לא מספיקים. ובמיוחד כשסוכנים אוטונומיים כבר יצאו משליטה בפועל, הטענה שהתעשייה צריכה תרבות בטיחות של תשתיות קריטיות צפויה לקבל משקל רב יותר בדיון הציבורי והרגולטורי.