אחרי תקרית פליי דובאי: SDS הישראלית מציגה מערכת AI שמבטיחה לסמן אנשי צוות חשודים דרך הסמארטפון
חברת SDS הישראלית מציגה את TruthAI, מערכת בינה מלאכותית שמתשאלת עובדים דרך הטלפון, ללא מגע, ומסמנת חשודים בתוך דקות. אבל שיעורי הטעות שלה אינם זניחים, והשימוש בטכנולוגיות כאלה מוגבל מאוד בארצות הברית ובאירופה.
אחרי אירוע הטרור בטיסת פליי דובאי לישראל, שלפי הדיווח לא הסתיים באסון רק בזכות תושייתם של הטייס הראשי והנוסעים, חברת SDS (Suspect Detection Systems) הישראלית מציגה מערכת בינה מלאכותית שאמורה לזהות אנשי צוות עם כוונות זדון. הבדיקה מתבצעת דרך הסמארטפון, בלי מגע פיזי, והתשובה מתקבלת בתוך דקות. לצד הפוטנציאל הביטחוני, כך לפי ynet, המערכת עדיין טועה בזיהוי ומעוררת שאלות קשות בנושא פרטיות.
האיום שמגיע מתוך תא הטייס
התקרית מחזירה לדיון בעיה ותיקה בתעופה האזרחית. מערכי הבידוק בקרקע יודעים לעצור כלי נשק וחומרי נפץ, אבל קשה להם מאוד לחזות מתי איש צוות מורשה, שעבר את כל בדיקות הרקע, יפעל נגד המטוס. ההיסטוריה מספקת כמה דוגמאות. במרץ 2015 טייס המשנה של Germanwings ריסק את טיסה 9525 בהרי האלפים הצרפתיים, ו-150 נוסעים ואנשי צוות נהרגו. חקירות רשמיות קבעו שגם ההתרסקות של EgyptAir 990 ב-1999 וההתרסקות של LAM 470 ב-2013 נגרמו בכוונה על ידי איש צוות בתא.
איך זה עובד
המערכת נקראת TruthAI. זו אפליקציה לטלפון נייד שנועדה להחליף את התשאול הביטחוני הראשוני בתהליך אוטומטי שאורך כמה דקות. הנבדק עונה על סדרת שאלות בהקשה על המסך. במקביל, אלגוריתם למידת מכונה מנתח את התגובות הפסיכו-פיזיולוגיות והקוגניטיביות שלו ומשווה אותן למאגר נתונים גדול. התוצאה בינארית: חשוד או לא חשוד.
המערכת מבוססת על טכנולוגיה ותיקה יותר של החברה בשם COGITO, שפותחה אחרי פיגועי 11 בספטמבר במימון רשות אבטחת התחבורה האמריקנית (TSA). COGITO דרשה מגע פיזי בחיישנים שמזכירים פוליגרף, והופעלה בעיקר במעברי גבול ובמתקנים מסווגים. לדברי החברה, הידע שנצבר במשך שני עשורים בעבודה עם ארגוני מודיעין, משטרות וחברות תעופה הוסב למודל תוכנה שיכול לרוץ על כל טלפון. בישראל, SDS נבחרה להשתתף במיזם של משרד האוצר לבידוק ביטחוני ללא מגע, שבוחן טכנולוגיות עתידיות למעברי הגבול.
המספרים שמאחורי ההבטחה
לפי הנתונים בכתבה, בבדיקה ללא מגע שיעור אזעקות השווא (False Positive) עומד על 4%. שיעור המקרים שבהם אדם עם כוונה זדונית עובר את הבדיקה בלי להתגלות (False Negative) מגיע ל-10%. בפועל, סריקה של אלף אנשי צוות ביום תשלח עשרות עובדים חפים מפשע לחקירה מעמיקה, ובאותו זמן אחד מכל עשרה גורמים עוינים עלול לעבור את הבדיקה בלי שיזוהה. במקרים שבהם מדובר במחבל אחד בלבד, שיעור החמצה כזה הוא ככל הנראה הנתון המטריד ביותר.
הרגולציה כמחסום
בעולם, המערכת נתקלת בהתנגדות רגולטורית. לפי הכתבה, בארצות הברית ממשל אובמה והממשלים שאחריו בלמו את השימוש בטכנולוגיות תשאול פסיכו-פיזיולוגיות בתוך המדינה, למרות שהממשל הפדרלי מימן את המחקר המקורי. הסיבה הייתה התנגדות של ארגוני זכויות אזרח ומגבלות פרטיות. באירופה ה-GDPR וה-EU AI Act אוסרים למעשה על שימוש במערכות AI שמנתחות רגשות ומצבים פסיכולוגיים במרחב הציבורי ובמקומות עבודה, ומגדירים אותן כבעלות "סיכון בלתי מקובל". במזרח אסיה, למשל בסינגפור ובמעברי הגבול מול מלזיה, מערכות סינון אוטונומיות פועלות כבר שנים. בסין מערכות לניתוח הבעות פנים והתנהגות פרוסות בתחנות רכבת ובנמלי תעופה.
למה זה חשוב
לפי הכתבה, בישראל נבחנת האפשרות לדרוש מאנשי צוות של חברות תעופה זרות לעבור בדיקה מקדימה כתנאי לאישור נחיתה. אם זה יקרה, ישראל עשויה להפוך לשטח ניסוי ליישום מסחרי של הטכנולוגיה. המשמעות היא שהוויכוח לא יהיה רק על אמינות האלגוריתם. הוא יעסוק גם בשאלה כמה טעויות מוכנים לקבל, ועל חשבון מי, בתמורה לתחושת ביטחון. כל עוד ההתנגדות הבינלאומית חריפה, ספק אם "פוליגרף סלולרי" יאומץ בהיקף רחב בקרוב.