כשבינה מלאכותית מטפלת בתקלות: מהנדסים מאבדים יכולת קריטית

כלי בינה מלאכותית לטיפול בתקלות בתשתיות מחשוב (Incident Response) הופכים מתוחכמים דיו כדי לבצע כמעט את כל שרשרת הטיפול בתקלה: לבחון התרעות, לגבש השערות, לשלוף נתוני טלמטריה, לקשר את הבעיה לפריסות קוד אחרונות, ולעיתים אף ליישם את התיקון בעצמם. סילבן קלאש', מהנדס שהיה SRE ב-LinkedIn עוד ב-2012 ובנה שם אבטיפוס של מערכת שיודעת "לרפא" את עצמה וללמוד מתקלות קודמות, כותב כעת בבבלוג שלו כי להתקדמות הזו יש מחיר: ככל שהכלים משתפרים בטיפול בתקלות שגרתיות, כך מהנדסים אנושיים מאבדים את התרגול שהופך אותם למיומנים בהתמודדות עם מקרים חריגים.

קלאש', שעובד כיום בחברת Rootly העוסקת בכלי ניהול תקלות, מסביר כי דווקא התקלות השגרתיות הן הדרך ה"בטוחה" שבה צוותי תגובה מפתחים אינטואיציה לגבי אופן ההתנהגות והכשל של המערכות שלהם. כשה-AI פותר את רוב המקרים הללו לבדו, המהנדסים ניגשים למקרה הקשה והחריג - זה שה-AI לא הצליח לפצח - עם פחות ניסיון מצטבר מאשר היה להם בעבור.

הרעיון הזה אינו חדש: חוקרת גורמי האנוש ליזאן ביינברידג' תיארה פרדוקס דומה כבר ב-1983, במאמרה הידוע "The Ironies of Automation". לטענתה, אוטומציה מצמצמת את הזדמנויות התרגול של מפעילים בעבודה שגרתית, בעוד שהיא משאירה בידיהם את האחריות למצבים חדשים וחריגים - ולכן, לגישתה, על המפעילים להיות מיומנים ומאומנים יותר מאשר לפני האוטומציה, לא פחות. קלאש' צופה בהתאם שזמן התגובה הממוצע לתקלות (MTTR) יירד בזכות כלי ה-AI, אך זמן הפתרון של תקלות מורכבות דווקא יעלה, מכיוון שהמהנדסים המגיבים יהיו מנותקים יותר מהמערכת ויתקשו לחקור אותה.

כדי להמחיש את הפער, קלאש' פונה לתעשיית התעופה. גם שם האוטומציה מבצעת חלק ניכר מהטיסה, אך הטייסים נותרים אחראים על מצבים שהאוטומציה אינה יודעת להתמודד איתם: כשל מנוע, כשל מכשירים, המראה שבוטלה. לדבריו, מנועי טורבינה מודרניים חווים פחות מכיבוי מנוע אחד באוויר על כל 100,000 שעות טיסה - נדיר עד כדי כך שטייס מסחרי עשוי לסיים קריירה שלמה בלי להיתקל במקרה כזה מחוץ לסימולטור. אך כשכשל כזה מתרחש, יש לצוות חלון זמן קצר וקריטי לתגובה נכונה. קלאש' מזכיר את טיסה 235 של TransAsia Airways, שבה מדחף המנוע הימני עבר "פת'רינג" אוטומטי זמן קצר לאחר ההמראה; אף שהמטוס תוכנן להמשיך לטוס על מנוע שמאל בלבד, הצוות זיהה את הבעיה בטעות, המטוס נכנס לדממון (Stall) והתרסק כ-117 שניות בלבד לאחר האזהרה הראשונה. בארה"ב מחייבת רשות התעופה הפדרלית (FAA) קברניטים לעבור הכשרה חוזרת או מבחן כשירות כל שישה חודשים, כולל תרחישי כשל מנוע בהמראה.

מכאן ההצעה המעשית של קלאש': הטכנולוגיה שיצרה את הבעיה יכולה גם לסייע לפתור אותה. ב-Rootly שיתפו פעולה עם חברת Uptime Labs כדי ליישם רעיון דומה בתעשיית התוכנה - סימולציות תקלות מציאותיות. מהנדסים "יושבים בכיסא" של מפקד תקלה בתרחיש תקלה מדומה בחנות מקוונת, משתמשים בכלי תצפית (observability) אמיתיים, ובמקביל נדרשים לתאם מול בעלי עניין המבוססים על LLM בסלאק - כולל התמודדות עם מנכ"ל וצוות תמיכת לקוחות. כך, לפי קלאש', המהנדסים מתרגלים בדיוק את הכישורים הנדרשים בתקלה אמיתית - ניתוח מידע חלקי, תקשורת ברורה וריכוז אנשים - במקום לגלות אותם לראשונה כשהתקלה החריגה הבאה כבר בפתח.

ככל שארגונים ימשיכו למסור למערכות AI את קו החזית של הטיפול בתקלות, כך עשויה לגדול התלות בהכשרה מכוונת ובתרגול תקופתי כדי לשמור על היכולת האנושית להתמודד עם מה שהאוטומציה לא צפתה.