אנתרופיק מזהירה: מודלי AI קטנים עלולים להעתיק את עצמם דרך מכשירי IoT

אנתרופיק, החברה שמפתחת את Claude, מזהירה מפני תרחיש שנשמע עד היום בעיקר תיאורטי: מודלי בינה מלאכותית קטנים שמשכפלים את עצמם ומתפשטים דרך מכשירי IoT (Internet of Things, כלומר "האינטרנט של הדברים"), כמו מצלמות אבטחה, נתבים ומכשירים ביתיים חכמים. לפי הדיווח ב-Ars Technica, החברה מעריכה ש"מעתיקים קטנים מבוססי משקולות" (small weight-based replicators) עלולים להוביל לדור חדש של תולעי מחשב.

מה הכוונה ב"מעתיק מבוסס משקולות"?

"משקולות" (weights) הם הפרמטרים המספריים שמרכיבים מודל AI. בפועל זה הקובץ שבו נשמר כל מה שהמודל למד. ככל הנראה, המונח מתאר מודל שמסוגל להעתיק את קובץ המשקולות שלו ממכשיר למכשיר ולהמשיך לפעול בכל מקום שאליו הגיע. ההבדל מתולעת מחשב רגילה ברור: תולעת קלאסית מריצה קוד קבוע שנכתב מראש. תוכנה שמבוססת על מודל שפה יכולה, לפחות עקרונית, להתאים את עצמה לסביבה שבה היא נמצאת.

למה דווקא מודלים קטנים ומכשירי IoT?

הדיון הציבורי על סיכוני AI עסק עד כה בעיקר במודלים הגדולים והחזקים ביותר, שרצים בחוות שרתים עצומות. לפי הזווית שאנתרופיק מציגה, הסיכון אינו נעצר שם. מודל קטן דורש מעט זיכרון ומעט כוח עיבוד, ולכן הוא עשוי לרוץ גם על חומרה צנועה.

מכשירי IoT הם יעד מוכר לתוקפים. רבים מהם מחוברים לרשת כל הזמן, מקבלים עדכוני אבטחה לעתים רחוקות ונשארים לא פעם עם סיסמאות ברירת מחדל. בעבר כבר נוצלו מכשירים כאלה בהיקף רחב. המקרה המוכר ביותר הוא ה-botnet ‏Mirai, רשת של מכשירים חטופים ששימשה למתקפות מניעת שירות. המשמעות האפשרית היא שהשילוב בין מודל קטן שמעתיק את עצמו לבין צי עצום של מכשירים פגיעים יוצר משטח תקיפה חדש.

למה זה חשוב

האזהרה מגיעה מאחת החברות שמפתחות בעצמן את הטכנולוגיה, ובמשך שנים הציבה את בטיחות ה-AI במרכז המיתוג שלה. ההערכה היא שהמסר מכוון גם לרגולטורים ולתעשייה: מסגרות פיקוח שמתמקדות רק במודלים הגדולים ביותר עלולות לפספס סיכונים שמגיעים ממודלים קטנים, זמינים וקלים להפצה.

בחומרים שעמדו לרשותנו אין פירוט על הניסויים או הנתונים שעליהם מתבססת אנתרופיק, ואין דיווח על מקרה כזה שכבר התרחש בפועל. נכון לעכשיו מדובר באזהרה צופה פני עתיד, לא בדיווח על מתקפה.