נשק או שריון? הוויכוח על מודלי AI סיניים במשקלים פתוחים מגיע לעולם הסייבר

מודלי בינה מלאכותית סיניים במשקלים פתוחים (open-weight) הולכים ומשתפרים, וזה מעורר שאלה שקשה להכריע בה: האם הם איום על אבטחת הסייבר, או שהגבלתם דווקא תהפוך את האינטרנט לפחות בטוח? כתבה ב-South China Morning Post מתארת את הדילמה כנושא שמטריד יותר ויותר אנשים, ככל שמפתחים סיניים כמו DeepSeek, ‏Z.ai ועליבאבא ממשיכים לשחרר מודלים שכל אחד יכול להוריד, לשנות ולהפעיל, ומתחרים כך ביריבותיהם האמריקאיות.

מה זה בכלל "משקלים פתוחים"

המשקלים של מודל שפה (LLM) הם בעצם הפרמטרים שנלמדו בזמן האימון, כלומר ה"ידע" של המודל. כשחברה מפרסמת אותם, כל אחד יכול להריץ את המודל על המחשבים שלו. אין צורך לעבור דרך שירות ענן, שבו החברה יכולה לנטר את השימוש, לחסום בקשות או לסגור חשבונות. אפשר גם לבצע fine-tuning, כלומר אימון נוסף שמתאים את המודל למשימה מסוימת, ואפשר להסיר ממנו מנגנוני בטיחות.

מכאן נובעת הדילמה. הגמישות שמאפשרת לחוקרת אבטחה לבנות כלי לזיהוי חולשות בקוד היא אותה גמישות שמאפשרת לתוקף לבנות כלי לניצול החולשות האלה. לפי SCMP, ההשפעה הגוברת של AI מתקדם על אבטחת הסייבר העולמית מחייבת כבר עכשיו ממשלות להתמודד עם השאלה.

שני צדדים לוויכוח

הטיעון בעד הגבלה פשוט יחסית: מודל שמסוגל לאתר פרצות, לכתוב קוד זדוני או להפוך תקיפות לאוטומטיות מוריד את הרף לתוקפים. ברגע שהמשקלים פורסמו, אי אפשר להחזיר אותם.

הטיעון הנגדי, שמשתקף גם בכותרת הכתבה "נשק או שריון", אומר שאותן יכולות הן גם כלי הגנה. צוותי אבטחה, חברות קטנות וחוקרים עצמאיים משתמשים במודלים פתוחים כדי לבדוק מערכות, לנתח קוד ולהתאמן מול תרחישי תקיפה. אם ההגבלות יפגעו בעיקר במגינים, וגורמים ממומנים היטב ימשיכו לקבל גישה בדרכים אחרות, ייתכן שהתוצאה תהיה פחות ביטחון ולא יותר.

מי יחזיק במפתחות

בקהילת המשתמשים שמריצים מודלים מקומית מתנהל דיון מקביל. פוסט בפורום LocalLLaMA ברדיט מעלה חשש מהכיוון שאליו הולכים הדברים. כותב הפוסט טוען שסין וארה"ב מגבילות מודלים בעלי יכולות סייבר. זו טענה שלו, והיא לא מפורטת בחומרים שבידינו. לדבריו, אם המגמה תימשך, רק גורמים שפועלים תחת פיקוח ממשלתי ובחסות חברות ה-AI הגדולות ייהנו מהיכולות האלה. לטענתו, הצעד שנראה בהתחלה סביר עלול להפוך במהירות לבעיה: חברות וממשלות חזקות ישפיעו עוד יותר על העולם הדיגיטלי, והאדם הפשוט יישאר מאחור.

זו עמדה של משתמש, לא ממצא. אבל היא מנסחת היטב את השאלה החברתית שמתחת לוויכוח הטכני: מי ייהנה מגישה לכלים המתקדמים ביותר, ומי יישאר בחוץ.

למה זה חשוב

עד היום רבים הניחו שמודלים פתוחים ימשיכו להשתפר ולהיות זמינים לכולם. אם ממשלות יתחילו להבחין בין יכולות "רגילות" ליכולות סייבר ולהגביל את השנייה, כנראה שזו תהיה נקודת מפנה בעולם הקוד הפתוח ב-AI. ההגדרה עצמה מסובכת, משום שיכולת לתכנת היטב היא בדרך כלל גם יכולת לאתר חולשות.

לישראל, שבה תעשיית הסייבר נשענת במידה רבה על חברות קטנות ועל חוקרים עצמאיים, לשאלה הזאת יש ככל הנראה משמעות מעשית. ההחלטה איך ואם להגביל משקלים פתוחים תשפיע על מי שתוקף, וגם על מי שמגן.

גילוי נאות לפי המקור: South China Morning Post נמצא בבעלות עליבאבא, אחת החברות שמוזכרות בכתבה.