ההצפנה של Signal עברה בדיקה מתמטית בעזרת AI, בפרויקט של ארבעה שבועות

ההצפנה של Signal, אפליקציית המסרים שנחשבת לאחת המאובטחות בעולם, עברה בדיקה מתמטית שנעזרה בבינה מלאכותית. לפי הדיווח ב-Ars Technica, הפרויקט נמשך ארבעה שבועות בלבד. התוצאה מרמזת ש-AI עשוי להפוך את האימות הפורמלי (formal verification) למעשי הרבה יותר ממה שהיה עד היום.

מה זה אימות פורמלי, ולמה הוא כל כך קשה

רוב התוכנות נבדקות בעזרת בדיקות (tests): המפתחים מריצים את הקוד על מקרים רבים ובודקים שהתוצאה נכונה. השיטה הזאת יכולה לגלות באגים, אבל היא לא יכולה להוכיח שאין באגים. תמיד עלול להישאר מקרה שאף אחד לא חשב עליו.

אימות פורמלי עובד אחרת. במקום לבדוק דוגמאות, כותבים הוכחה מתמטית שמראה שהמערכת עומדת בדרישות מוגדרות בכל מצב אפשרי. במערכות הצפנה המשמעות יכולה להיות, למשל, הוכחה שתוקף לא יכול לקרוא הודעות גם אם הוא מיירט את כל התעבורה.

הבעיה היא המחיר. אימות פורמלי דורש בדרך כלל מומחים נדירים, שמשלבים ידע במתמטיקה, בהצפנה ובכלי הוכחה ממוחשבים. גם העבודה עצמה איטית: כל צעד בהוכחה צריך להיכתב בפירוט ולעבור בדיקה של תוכנה. לכן השיטה שמורה בדרך כלל למקרים שבהם טעות עלולה להיות הרסנית, וגם בהם היא נחשבת להשקעה כבדה.

למה דווקא Signal

פרוטוקול ההצפנה של Signal הוא הרבה יותר מרכיב של אפליקציה אחת. הוא משמש בסיס להצפנה מקצה לקצה גם בשירותים נפוצים אחרים, ובהם WhatsApp. המשמעות היא שהבטחת האבטחה שלו נוגעת, בעקיפין, למאות מיליוני משתמשים. פרוטוקול כזה הוא מועמד טבעי לבדיקה מתמטית, וגם מבחן משמעותי לשאלה אם AI יכול לתרום לתחום בפועל.

הדיווח לא מתאר בכותרתו את כל פרטי השיטה. מה שכן נאמר במפורש הוא שהבדיקה הייתה "מבוססת AI" ושהפרויקט כולו נמשך ארבעה שבועות. ככל הנראה ה-AI שימש כדי להאיץ את החלקים העמלניים של התהליך, כמו ניסוח צעדי ההוכחה. כלי ההוכחה הממוחשבים עצמם ממשיכים לבדוק שכל צעד תקין.

המשמעות: אבטחה מוכחת, לא רק נבדקת

הנקודה החשובה בסיפור היא פחות Signal עצמה ויותר מה שהפרויקט מלמד על התחום. אם תהליך שנחשב יקר ואיטי אפשר לבצע בתוך חודש בעזרת AI, ייתכן שאימות פורמלי יוכל לצאת מהמעבדות ולהגיע לתוכנות אבטחה נוספות. כאן אפשר לחשוב על ספריות הצפנה, פרוטוקולי תקשורת ורכיבי תשתית שכולנו נשענים עליהם בלי לדעת.

יש כאן גם צד מעניין במיוחד. אחת הביקורות הנפוצות על מודלי שפה (LLM) היא שהם נוטים "להמציא" ולטעות בביטחון מלא. אימות פורמלי הוא כנראה אחד התחומים שבהם החולשה הזאת פחות מסוכנת: הוכחה שגויה לא תעבור את הבדיקה של כלי ההוכחה הממוחשב. במילים אחרות, ה-AI יכול להציע, והמתמטיקה מכריעה.

עם זאת, כדאי לזכור את המגבלות. הוכחה פורמלית מבטיחה שהמערכת עומדת בדרישות שהוגדרו לה, ותו לא. אם הדרישות עצמן חסרות, או אם הבעיה נמצאת ברכיב שלא נבדק, ההוכחה לא תגן עליו. פרויקט אחד, מוצלח ככל שיהיה, הוא סימן מעודד, אבל עדיין לא הוכחה לכך שהשיטה תעבוד באותה מהירות על כל מערכת.

ובכל זאת הכיוון ברור: אם הממצא יחזור על עצמו בפרויקטים נוספים, תוכנות אבטחה יוכלו בעתיד להציג גם הוכחה מתמטית לנכונותן, ולא רק את העובדה שאף אחד עוד לא מצא בהן חור.