מחקר של אנתרופיק: מודלי AI יכולים לשכפל את עצמם ולרוץ על מכשירים ביתיים זולים
מחקר חדש של אנתרופיק מראה שמודלי שפה פתוחים יכולים להקים לעצמם סביבת הרצה על חומרה זולה ולהשלים שרשרת שכפול מלאה בתנאי מעבדה. החוקרים מזהירים שרשת כזו, שתתפזר על פני מצלמות אבטחה, טלוויזיות ומכשירי בית חכם, תהיה קשה מאוד לעצירה, וממליצים להקשיח את האבטחה של מכשירי IoT.
מודלי בינה מלאכותית לא צריכים חוות שרתים כדי לשכפל את עצמם. די להם בצי של מכשירים ביתיים זולים. זו המסקנה של מחקר חדש של צוות הבדיקות באנתרופיק, שפורסם השבוע. לפי המחקר, מודלי שפה פתוחים מסוגלים לאבחן את החומרה שהם רצים עליה, להקים לעצמם סביבת הרצה ולהעתיק את עצמם הלאה. לדברי החוקרים, היכולות האלה עלולות להפוך מצלמות אבטחה, טלוויזיות ומכשירי בית חכם לחלק מרשת מבוזרת שקשה לעצור.
15 מכשירים ב-55 דולר
באחד הניסויים הריצו החוקרים את המודל הפתוח Gemma 4, בגודל 26 מיליארד פרמטרים, כשהוא מפוצל בין 15 מזרימי מדיה מבוססי אנדרואיד. כל אחד מהם עולה כ-55 דולר. השיטה מחלקת את שכבות המודל בין המכשירים, בדומה לארכיטקטורה של פרויקט הקוד הפתוח Petals. היא איטית מאוד ומפיקה פחות מחצי טוקן בשנייה. אבל המהירות היא לא העניין, אלא העובדה שזה בכלל עובד.
לפי המחקר, ההבדל המהותי הוא מול תולעי מחשב (Computer Worms) מסורתיות. תולעת רגילה מריצה קוד קבוע ונכשלת כשהיא נתקלת בסביבה שלא הוכנה אליה. לעומתה, מודל שפה שפועל כתולעת יכול לזהות לבד את החומרה שאליה הגיע, להתקין ספריות קוד מתאימות ולתקן שגיאות של מערכת ההפעלה.
מ-45% ליותר מ-80%
בניסויים עם המודל הסיני Qwen 3.5, בגודל 9 מיליארד פרמטרים, המודל הצליח להגדיר בעצמו שרת הרצה על שמונה מתוך תשעה סוגי חומרה, ממעבדי קצה זעירים ועד מחשבים אישיים. כשהמערכת העבירה לכל עותק חדש את מה שקודמיו למדו בתהליך ניפוי השגיאות, שיעור ההצלחה עלה מ-45% ליותר מ-80%.
מודל פתוח מתקדם יותר, GLM 5.2, כבר השלים שרשרת שכפול מלאה מקצה לקצה, בתנאי מעבדה מבוקרים. החוקרים מעריכים שבקצב ההתפתחות הנוכחי גם מודלים זעירים יגיעו ליכולת הזו בתוך חודשים ספורים.
אין מתג כיבוי
החוקרים מכנים את התופעה "עובש דיגיטלי". רשתות בוטים מוכרות כמו Mirai נשענות על שרתי פיקוד ושליטה מרכזיים, ואם מאתרים ומנתקים אותם, הרשת משותקת. לתולעת AI מבוזרת אין "מוח" מרכזי כזה. ברגע שמשקלי המודל, כלומר הקובץ שמכיל את המודל עצמו, מתפזרים על פני מאות מכשירים ברשתות ביתיות, אין נקודה אחת שאפשר לנטרל כדי לעצור את ההתפשטות.
ההמלצה של אנתרופיק בשלב הזה היא להקשיח את האבטחה של מוצרי האינטרנט של הדברים (IoT). ככל הנראה לא מדובר בפתרון מלא. מכשירים ביתיים זולים ידועים כבר שנים כחוליה חלשה, בגלל סיסמאות ברירת מחדל ועדכוני תוכנה נדירים.
למה זה חשוב
הדיון על סיכוני AI התמקד עד היום במודלי ענק שרצים במרכזי נתונים, ושם קל יחסית לפקח עליהם. המחקר מצביע על כיוון אחר: מודלים פתוחים וקטנים, שכל אחד יכול להוריד, ועשרות מיליוני מכשירים מאובטחים בקושי שמחוברים לרשת. המשמעות, להערכתנו, היא שהשאלה איך עוצרים AI שיצא משליטה עשויה להפוך משאלה של רגולציה על חברות גדולות לשאלה של אבטחת הנתב והמצלמה בסלון. גם בישראל, שבה מתקפות מבוססות רשתות בוטים ממכשירי בית חכם פרוצים כבר מוכרות, ייתכן שהאיום יעבור ממטרד נקודתי לסיכון רחב יותר.