התרעות חירום שנכתבות בעזרת AI כבר בדרך, והשאלה היא אם הציבור יאמין להן

מנהל חירום במחוז באלבמה רצה שבעלי העניין באזורו יתמקדו בסיכון המקומי מהוריקן Isaias. לכן ביקש מצ'אטבוט AI להכין גרפיקה שמראה איפה הסופה עלולה לפגוע בחוף המדינה ב"sting jet", זרם צר של רוחות חזקות במיוחד. הצ'אטבוט עשה מה שהתבקש, אבל הגרפיקה שפורסמה הייתה שגויה מבחינה מטאורולוגית. המקרה פותח כתבה של Grist שפורסמה גם ב-Wired. הכתבה עוסקת בשאלה שמעסיקה רשויות חירום בארה"ב: האם להפקיד בידי AI את ניסוח ההתרעות לציבור.

"עשה מה שהוא רצה, אבל לא היה מדויק"

לפי הכתבה, Isaias פגע בחוף מפרץ מקסיקו כהוריקן בדרגה 3. מי שסיפרה על המקרה היא לורה מאיירס, מנהלת המרכז לבטיחות ציבור מתקדמת (Center for Advanced Public Safety) באוניברסיטת אלבמה. היא שמעה עליו ממטאורולוג באלבמה שהתקשר אליה. "מנהל החירום של המחוז ניסה לגרום לבעלי העניין שלו להתמקד בסיכון במחוז, אז הוא ביקש מ-AI לעזור לו", אמרה. "הוא עשה מה שהוא רצה שיעשה, אבל זה לא היה מדויק מבחינה מטאורולוגית".

רוב רשויות החירום אינן מתירות לעובדים להשתמש ב-AI גנרטיבי. ובכל זאת, מאיירס ורוב המומחים בתחום מעריכים שהשימוש בו כבר נפוץ במחלקות אסונות ברמת המדינה וברמה המקומית. לפי הכתבה, מאות חברות משווקות כלי AI למנהלי חירום, למשל להערכת נזקי הצפות ולתיאום משאבים. אבל התקשורת עם הציבור היא אחד התחומים שמעניינים במיוחד גם את עובדי הממשל וגם סטארט-אפים.

הבעיה היא אנושית

הסיבה פשוטה: רוב מנהלי החירום לא מצטיינים בניסוח מהיר של התרעות. זה לא קשור לתפקיד, אלא לכך שהם בני אדם. הם כותבים בז'רגון מקצועי שקשה להבין, משמיטים מידע מתוך הנחה שהציבור כבר יודע אותו, ומוסיפים פרטים שמסיחים את הדעת ממה שחשוב באמת.

"לרשויות רבות יש מעט משאבים ומעט אנשים", אמרה ג'נט סאטון, חוקרת אסונות באוניברסיטת אולבני. סאטון בנתה לוח מחוונים מקיף שמציע תבניות להתרעות אסון. "אני חושבת שהן מבינות שזה בראש סדר העדיפויות, אבל הן לא נותנות לזה עדיפות עד שהן מבינות שהיו צריכות. הן רק מנסות לעשות את העבודה בלי לפשל".

הכתבה מביאה כמה דוגמאות לטעויות כאלה. ב-2016 הוציאו שני מחוזות שכנים בקליפורניה הודעות סותרות על אותה שריפה: באחד "פינוי מרצון" ובשני "פינוי חובה". באוסטרליה ב-2019 השתמשו הרשויות בביטוי "Watch and Act" ("עקבו ופעלו") באזהרות משריפות. לימים הודתה הממשלה שהביטוי גרם ל"בלבול משמעותי", כי איש לא ידע מה הוא אומר.

המקרה הקשה ביותר אירע במונטסיטו שבקליפורניה. כמה שבועות אחרי שריפת Thomas ב-2017 ירד גשם כבד וגרם למפולת בוץ קטלנית. מחוז סנטה ברברה שלח לתושבי "אזור הפינוי מרצון" הודעה שבה נכתב "הישארו ערניים לשינויים בתנאים והיו מוכנים לעזוב מיד". רוב התושבים היו צריכים לעזוב מיד, אבל רבים הבינו שהפינוי אינו מחייב. אחרים פשוט לא רצו להתפנות בפעם השנייה בתוך חודש, תופעה שסאטון מכנה "עייפות אזהרות". המפולת הרגה 23 בני אדם ופצעה יותר מ-160.

למה זה חשוב

מנהלי חירום נוהגים לומר ש"אמון הוא המטבע שלנו". לדברי סאטון, רשויות שמוציאות אזהרות גרועות מאבדות את אמון הציבור, וכך "הן מפסידות את ההזדמנות להיות הקול שעוזר לאנשים להישאר בטוחים".

על פניו, ניסוח התרעות מתאים מאוד ל-AI גנרטיבי. מודל שפה יכול לכתוב בשפה פשוטה, לפי תבנית קבועה ובמהירות. אבל המקרה מאלבמה ממחיש את הצד השני. צ'אטבוט שעושה בדיוק מה שביקשו ממנו עלול להפיק מידע שנראה משכנע ואינו נכון. המשמעות, ככל הנראה, היא שהסיכון אינו רק בטעות בודדת. בתחום שבו כל ההשפעה נשענת על אמון, די בכמה טעויות כאלה כדי שהציבור יתחיל להתייחס בחשדנות גם להתרעות המדויקות.

הכתבה היא חלק מ-Distorted, סדרה של Grist שעוסקת בהתפשטות מידע כוזב בעקבות אירועי מזג אוויר קיצוניים.