דיווח: חוקרים הטמינו במודל AI יכולת "נעולה" שכוונון עדין לא הצליח לחשוף
פוסט ברדיט מפנה למחקר שלפיו חוקרים הטמינו במודל AI יכולת מוצפנת, ש-fine-tuning לא הצליח לחשוף. פרטי המחקר עצמו טרם אומתו. אם הממצא יתאשר, הוא מעורר שאלה לא נוחה: האם בדיקה של מודל יכולה לגלות את כל מה שהוא מסוגל לעשות?
פוסט שפורסם בפורום r/singularity ברדיט מפנה למחקר שלפי הכותרת שלו חוקרים הטמינו במודל בינה מלאכותית יכולת מוצפנת, וניסיונות לחשוף אותה באמצעות fine-tuning (כוונון עדין, כלומר המשך אימון של מודל קיים על נתונים חדשים) נכשלו. חשוב לומר מראש: בשלב זה לא הצלחנו לאמת את פרטי המחקר. הפוסט עצמו אינו כולל פרטים, ולא ידוע לנו מי החוקרים, באיזה מוסד הם עובדים, על איזה מודל נערך הניסוי ואיך בדיוק הוצפנה היכולת. לכן יש להתייחס לממצא כדיווח שעדיין לא אומת.
מה בעצם נטען
לפי הכותרת שהופצה, חוקרים לקחו מודל AI, "נעלו" בו יכולת מסוימת בשיטה שמבוססת על הצפנה, ובדקו אם אפשר לחלץ אותה בכלי שמשמש בתעשייה בדיוק למטרה הזאת: fine-tuning. התשובה, לפי הדיווח, הייתה שלילית. היכולת נשארה נעולה.
כדי להבין למה זה מעניין, צריך להכיר נוהל מקובל בבדיקות בטיחות של מודלים. כשמעריכים אם מודל מסוכן, למשל אם הוא יכול לסייע בתקיפת סייבר, בודקים מה הוא מסוגל לעשות. בבדיקות כאלה מקובלת ההנחה שאם יכולת קיימת במודל, כוונון ממוקד יוציא אותה החוצה. fine-tuning משמש לא רק לשיפור מודלים, אלא גם ככלי חקירה שאמור לחשוף מה מסתתר בתוכם.
למה זה חשוב
אם הממצא יתאשר, ככל הנראה המשמעות היא שההנחה הזאת לא תמיד מחזיקה. מודל עלול לעבור בדיקה, להיראות "נקי" ובכל זאת להכיל יכולת שתיפתח רק בידי מי שמחזיק במפתח הנכון. מבחינת אימות מודלים, כלומר היכולת של רגולטורים, חוקרים ולקוחות לבדוק בעצמם מה מודל יודע לעשות, מדובר בבעיה מהותית. בדיקה שמחפשת יכולות ולא מוצאת אותן אינה מוכיחה בהכרח שהן לא קיימות.
הנושא נוגע גם לשאלת האמון בשרשרת האספקה של מודלי AI. ארגונים רבים מורידים מודלים פתוחים (open weights) ומכווננים אותם לצרכיהם. אם אפשר להסתיר במודל יכולת שלא נחשפת בכוונון, הבדיקה הפנימית שהארגון מבצע מספקת ככל הנראה פחות ביטחון ממה שנהוג להניח.
הצפנה ו-AI: הקשר רחב יותר
הדיווח מגיע בתקופה שבה הקשר בין בינה מלאכותית לקריפטוגרפיה מעסיק את עולם האבטחה, וגם בכיוון ההפוך. לפי סקירה באתר Tekedia, ביולי 2026 ציין המכון האמריקאי לתקנים NIST כי אנתרופיק השתמשה במודל AI כדי לגלות חולשה ב-HAWK, אלגוריתם חתימה דיגיטלית שנשקל לתקינה. הצוות שפיתח את HAWK משך את האלגוריתם בעקבות זאת, ו-NIST הדגיש שהאירוע לא השפיע על התקנים ML-KEM ו-ML-DSA שכבר אישר.
בשני המקרים התמונה דומה: הגבול בין מערכות AI לבין מנגנוני הגנה והסתרה מטשטש. במקרה אחד AI משמש לפיצוח הצפנה, ובמקרה האחר, לפי הדיווח, הצפנה משמשת להסתרת יכולות בתוך AI.
מה עוד לא ידוע
לפני שמסיקים מסקנות צריך לקבל תשובות לכמה שאלות: איזו יכולת הוסתרה, כמה מורכבת היא, באיזה היקף נעשה ה-fine-tuning שנכשל, והאם נוסו שיטות חילוץ אחרות. רק פרסום מלא של המחקר, ורצוי גם שחזור שלו בידי צוות עצמאי, יאפשרו לקבוע אם מדובר בפרצה ממשית בשיטות הבדיקה הקיימות או בהדגמה במקרה מוגבל. נעדכן כשיתפרסמו פרטים נוספים.