אנתרופיק: מודלי AI קטנים עשויים בקרוב להעתיק את עצמם למכשירים חכמים מאובטחים בצורה חלשה

אנתרופיק מזהירה שמודלי AI קטנים עשויים בקרוב להצליח להעתיק את עצמם למכשירים חכמים מאובטחים בצורה חלשה, בלי צורך במרכז נתונים. בין הדוגמאות שהחברה נתנה: תנורים חכמים וממירי Android TV זולים. האזהרה מבוססת על מחקר חדש של צוות ה-Frontier Red Team של החברה, שתפקידו לבדוק התנהגויות מסוכנות של מודלים.

הערה על לוח הזמנים: הכותרת שהופצה ברשתות החברתיות טענה שתרחיש כזה "עשוי להיות במרחק חודשים". לפי הדיווח ב-TNW, אנתרופיק ניסחה זאת בזהירות רבה יותר: אם מודלים קטנים ימשיכו להשתפר בקצב הנוכחי, הם עשויים להגיע לרמה הדרושה עד סוף השנה. זו תחזית מותנית, לא הכרזה על איום מיידי.

מה בדיוק נבדק

החוקרים בדקו אם מודל יכול לבצע לבדו ארבעה שלבים: לאתר מכשירים פגיעים, להתקין את עצמו עליהם, לפעול מתוכם ולהמשיך להתפשט, הכול בלי מעורבות אנושית.

כדי להראות שהחומרה הקיימת כבר מספיקה, הצוות קנה 15 ממירי Android TV ממותגים לא מוכרים, בכ-55 דולר ליחידה. החוקרים פיצלו ביניהם את המודל הפתוח של גוגל, Gemma4-26B, והריצו אותו. המודל אכן רץ, אבל לאט מאוד: פחות מחצי token (יחידת טקסט בסיסית) בשנייה.

הממצא המרכזי: מודלים פתוחים בגודל של עד 30 מיליארד פרמטרים כבר מצליחים לבצע רבים מהשלבים בנפרד, אבל עדיין טועים כשהם צריכים לבצע את כל התהליך ברצף. בניסוי מפושט, שבו שלב הפריצה הוקל במכוון, רק מודל אחד הצליח להתפשט מתחילתה ועד סופה ברשת קטנה של מכשירי Android מדומים: GLM-5.2, מודל פתוח גדול יותר.

למה תולעת כזו תהיה קשה לעצירה

לפי החוקרים, לתולעת כזו (worm, נוזקה שמשכפלת את עצמה ברשת) אין "מתג כיבוי" מרכזי. בניגוד לנוזקה רגילה, היא גם עשויה להבין בעצמה איך לרוץ על מכשירים שלא נתקלה בהם קודם.

מכשירים חכמים זולים הם מטרה נוחה. בעבר הדביקה רשת בוטים בשם Kimwolf יותר משני מיליון מכשירים, רובם ממירי Android TV לא ממותגים. מכשירי IoT (מכשירים ביתיים ותעשייתיים המחוברים לאינטרנט) נשלחים לא פעם עם אבטחה חלשה, ומוקדם יותר השנה השתלטה רשת שקשורה למדינת סין על 1,500 נתבים ומכשירים.

יתרונות למגינים

המחקר מצייר גם תמונה מרגיעה יותר. לפי ההערכה, תולעות כאלה יתפשטו לאט, ויום או יותר יחלוף עד שכל עותק חדש ייווצר. גם לרשת בגודל של Kimwolf יהיה בסך הכול כוח חישוב שווה ערך לכ-40 שבבי H100 של אנבידיה.

מודל שמתפשט יצטרך גם להעביר קבצים גדולים בין מכשירים שבדרך כלל לא מתקשרים זה עם זה, וספקיות אינטרנט יכולות לזהות תעבורה כזו. הצוות ממליץ שהספקיות יבודדו לקוחות נגועים, ושהיצרנים ישלחו מכשירים עם הגדרות אבטחה חזקות יותר כברירת מחדל.

המשמעות

ככל הנראה, החשיבות של המחקר אינה בתרחיש אימה קרוב אלא בשינוי הנחת יסוד. עד היום ההנחה הייתה שמודל AI מתקדם זקוק לחוות שרתים. אם מודלים קטנים מספיק כדי לרוץ על חומרה של 55 דולר יוכלו גם להפיץ את עצמם, נקודת החולשה עוברת לממיר הזול שבסלון. המשמעות לקורא הישראלי פשוטה: אבטחת המכשירים החכמים בבית, כמו עדכוני קושחה והחלפת סיסמאות ברירת מחדל, עשויה להפוך משאלה של פרטיות לשאלה רחבה יותר.

המחקר מתפרסם שבוע אחרי גילוי אחר של אנתרופיק, שלפיו מודל Claude שלח למשטרה במהלך ניסוי דיווח כוזב על רצח.