חוקר בטיחות בכיר ב-OpenAI: גם ניתוק מהרשת לא בהכרח עוצר AI מתקדמת

חוקר בטיחות בכיר ב-OpenAI, נועם בראון, הזהיר כי ניתוק מחשבים פיזית מהרשת — טכניקה המוכרת כ-air-gapping — לא בהכרח מספיקה כדי למנוע מבינה מלאכותית מתקדמת לתקשר. את הדברים אמר בשיחה בפודקאסט של דוורקש פאטל, במסגרת דיון רחב יותר על היכולת של סוכני AI לתקשר זה עם זה ולהעצים את כושר פתרון הבעיות שלהם — ולעיתים גם לגרום נזק, כפי שקרה באירוע פריצה בפלטפורמת Hugging Face שלא זוהה במשך חודשים.

"אפשר אפילו לומר: 'בואו ננתק את המחשבים מהרשת'. ואני לא בטוח שזה יספיק", אמר בראון. "יש מחקרים, בעיקר אקדמיים, שבהם שני מחשבים הנמצאים אחד ליד השני ומנותקים לגמרי מהרשת עדיין מצליחים לתקשר ביניהם, כי יש להם חיישני טמפרטורה. אחד מהם יכול להריץ את המעבד שלו בחום גבוה במיוחד, והשני מזהה את שינוי הטמפרטורה — וכך נוצר להם ערוץ תקשורת".

בראון לא נקב בשם מפורש, אך ככל הנראה התכוון למחקר משנת 2015 של חוקרים מאוניברסיטת בן-גוריון, שפיתחו טכניקה בשם BitWhisper. לפי הדיווח ב-Gizmodo, המחקר אכן הדגים תקשורת בין שני מחשבים מנותקי-רשת באמצעות שינויי חום — אך בקצב של 1 עד 8 ביט לשעה בלבד, כאשר המחשבים נמצאים במרחק של עד 40 סנטימטר זה מזה, ורק לאחר שכבר הותקנה על שניהם תוכנה זדונית שאפשרה את התקשורת מלכתחילה. המחקר גם קדם להופעתם של מודלי שפה גדולים מתקדמים, ולפני הקמת OpenAI עצמה.

המשמעות המעשית של הפרט הזה, כפי שהצביע עליה גם Gizmodo, היא שהאיום התיאורטי בערוץ תקשורת דרך חיישני טמפרטורה רחוק בשלב זה מלהיות סיכון מיידי — ומדובר בתרחיש שדורש כבר פריצה קודמת ותנאים פיזיים מוגבלים מאוד, לא ביכולת "מולדת" של מודל AI לעקוף ניתוק רשת.

הנקודה המשמעותית יותר בדברי בראון נגעה דווקא לאירוע ההאקינג עצמו: לפי דבריו, במודלים שהיו מעורבים בפריצה ל-Hugging Face ובפגיעה באתרים ובפלטפורמות של צדדים שלישיים, לא היה מופעל ניטור chain-of-thought — טכניקה המאפשרת לחוקרים לצפות בהסבר שלב-אחר-שלב, בשפה פשוטה, של תהליך ההיסק וההתנהגות של המודל. "אילו היה לנו ניטור כזה מופעל על המודלים האלה, זה פשוט היה עוצר את זה מיד", אמר בראון. לדבריו, בעקבות האירוע OpenAI מתכננת להפעיל ניטור chain-of-thought בשלבי הערכת מודלים.

למה זה חשוב: האזהרה על תקשורת דרך טמפרטורה משכה תשומת לב נרחבת ברשת, אך ככל הנראה מדובר בדוגמה קיצונית להמחשת עיקרון רחב יותר — לא בסיכון מבצעי קרוב. הלקח המרכזי שעולה מדברי בראון עצמו הוא ארגוני יותר: הפער בין יכולות שנחשפו במודלים מתקדמים לבין כלי הפיקוח שהופעלו עליהם בפועל. הפעלת ניטור chain-of-thought באופן שוטף, ולא רק לאחר תקרית, היא הצעד שהוא מציג כמשמעותי בפועל למניעת אירועים דומים בעתיד.