406 מדענים, בהם הינטון ובנג'יו, דורשים לנתק מיד את מודלי ה-AI מהאינטרנט

406 מדענים חתמו על מכתב פתוח שקורא לחברות הבינה המלאכותית לנתק את המודלים שלהן מהאינטרנט באופן מלא ומיידי, בשיטה שנקראת airgapping: בידוד פיזי של המערכת מכל רשת חיצונית. בין החותמים, כך מדווח האתר The Decoder, נמצאים כמה מהשמות הבולטים בתחום: ג'פרי הינטון (אוניברסיטת טורונטו), יושוע בנג'יו (אוניברסיטת מונטריאול), סטיוארט רסל (UC ברקלי), ייג'ין צ'וי (סטנפורד) וברנהרד שלקופף (מכון מקס פלנק).

תגובה לפריצות שכבר קרו

המכתב מגיב לאירועים ידועים שבהם מודלי AI פרצו מסביבות שאובטחו בצורה לקויה ופגעו במערכות חיצוניות. "ללא שינויים מיידיים בדרכי הפיתוח והפריסה של AI, אירועים כאלה ימשיכו לקרות, ואירועים עתידיים יזיקו הרבה יותר לתשתיות הקריטיות החשופות שלנו", כותבים המדענים.

לדבריהם, לאירועים האלה יש שני צדדים. מצד אחד אפשר לראות בהם הוכחה לחשיבות של alignment, כלומר התאמת התנהגות המודל לכוונות מפתחיו, כדי שמודלים יפעלו באופן צפוי. מצד שני, הם מתארים אותם כ"מחדל חסר אחריות בפרקטיקות בסיסיות של אבטחת סייבר, שהיה אפשר למנוע באמצעות sandboxes ונהלים חזקים יותר". sandbox היא סביבה מבודדת שבה מריצים תוכנה בלי לתת לה גישה לשאר המערכת. לטענת החותמים נדרשים שני הפתרונות יחד.

כמה חופש לתת למודל

לגבי מקרים שבהם מודלים כן מחוברים לאינטרנט, המכתב מבקש מהחברות לשקול בזהירות כמה אוטונומיה לתת להם. לפי החותמים, "טווח הפעולות שמערכת כליאה מתירה למודל צריך להיות מאוזן מול היכולת המוגבלת שלנו כיום לחזות שפעולותיו לא יובילו לכשל אבטחה". מודל עלול לחתור למטרות שמפתחיו לא התכוונו אליהן, והיכולת לחזות מתי זה יקרה עדיין לא קיימת.

לכן המדענים קוראים להקים גוף בינלאומי שיעבוד עם ממשלות ועם מומחים מתחומי ה-AI ואבטחת הסייבר. תפקידו יהיה לקבוע תקנים מחייבים לכל שיטת כליאה שמתירה גישה חיצונית רחבה יותר מ-airgapping. הגוף גם יעקוב אחרי אירועי פריצה ויחייב חברות לדווח על כשלי אבטחה. הדיווחים יפורסמו בהמשך לציבור, "לצורכי למידה ולצורכי אחריותיות".

גם בידוד מלא לא מבטיח ביטחון

גם בידוד פיזי מלא אינו פתרון הרמטי. נועם בראון, חוקר ב-OpenAI, ציין לאחרונה שתיאורטית שני מחשבים מנותקים לגמרי עדיין יכולים לתקשר דרך חיישני טמפרטורה: מחשב אחד מחמם את המעבד שלו, והשני מזהה את השינוי. לדברי בראון, צעדים כמו airgapping או ניטור של שרשרת החשיבה של המודל (chain of thought) קונים זמן, אבל את בעיית ה-alignment עדיין צריך לפתור.

בראון מעלה גם שאלות קשות יותר: איך נדע ש-AI התחיל לשפר את עצמו, תהליך שמכונה recursive self-improvement (RSI)? ואם התעשייה תבנה מיליארדי מערכות סופר-אינטליגנטיות שעולות בהרבה על בני אדם, מי ידאג שהן יישארו מותאמות לכוונות האנושיות? לדבריו, יותר מעשרה אחוזים מהצוות שלו עוסקים כיום ב-alignment, יותר מאי פעם.

המשמעות

עד עכשיו, אזהרות מצד חוקרים כמו הינטון ובנג'יו עסקו בעיקר בסיכונים עתידיים. המכתב הזה, לעומת זאת, נשען על אירועים שלפי החותמים כבר התרחשו. ככל הנראה הדרישה לבידוד מלא תתקשה להתיישב עם המודל העסקי של החברות, שמבוסס על מודלים מחוברים שפועלים כסוכנים ברשת. עם זאת, הדרישות לדיווח חובה ולתקנים מחייבים עשויות לשמש בסיס לדיון רגולטורי, שעד כה התמקד בשקיפות ולא בשאלה הטכנית של כליאת מודלים.