סוכני AI מציפים משרדי ממשלה בבקשות חדשות

כלים מבוססי בינה מלאכותית שמקלים על מילוי טפסים והגשת תלונות גורמים לזינוק חד במספר הפניות לשירותים ציבוריים ברחבי העולם. לפי כתבה של TechCrunch, בבריטניה מספר התלונות לאומבודסמן הדיור יותר מהוכפל מאז הופעת ChatGPT — מ-2,600 תלונות ב-2022 ל-כ-7,000 בשנה שעברה. בארצות הברית דיווחה הלשכה הפדרלית להגנת הצרכן הפיננסי (CFPB) על עלייה פי חמישה במספר התלונות באותה תקופה. עליות דומות נרשמו גם בעתירות משפטיות בברזיל ובעצומות שהוגשו לפרלמנט הגרמני.

את המגמה מתעד החוקר כריס שמיץ, שמכנה אותה "הצפה סוכנית" (agentic flooding). במאמר שיוצג בחודש הבא בכנס AI Ethics and Society, בחן שמיץ 84 מקרים אפשריים של הצפה ב-11 מדינות שונות, ומצא עדויות רחבות לכך שכלי AI משנים את האופן שבו אנשים פונים לשירותים ציבוריים — מבקשות רווחה ועד ערעורים משפטיים רשמיים, כל עוד קיים עבורם ערוץ מקוון שסוכן AI יכול לפעול דרכו. מסיבות מתודולוגיות המאמר נמנע מלקבוע חד-משמעית שה-AI הוא הגורם הישיר לזינוק, אך ברוב 84 המקרים מסתמן אותו דפוס: מספר הפניות היה יציב פחות או יותר עד 2022, ואז החל לעלות בקצב הולך וגובר עם התפשטות הטכנולוגיה. הגידול לרוב לא האט, מה שמרמז שהוא צפוי להימשך.

שמיץ מסביר את המגמה בכך שהשימוש בכלי AI הפך פשוט וזמין יותר. "אנשים מגלים שזה משהו שאפשר לעשות, וזה הולך ונעשה קל יותר לביצוע... פעם זו הייתה שאלה של איסוף הקשר רב וניסוח פרומפט מדויק ל-ChatGPT 3.5, ועכשיו זו יכולה להיות פשוט הדבקה או צילום של מכתב באפליקציית Claude וקבלת תשובה טובה כמעט מיד", אמר לפי הכתבה.

התופעה מזכירה את מה שקרה בתוכניות bug bounty בשנה שעברה, כשחברות מצאו את תיבות הדואר שלהן מוצפות בדוחות אבטחה באיכות נמוכה שנוצרו על ידי מודלי שפה — דוחות שכללו לעיתים רחוקות ממצאים משמעותיים, אך עדיין חייבו את החברות לבדוק כל אחד מהם, ובכך יצרו עומס משמעותי על משאבים. שירותים ציבוריים עלולים להיתקל בבעיה דומה כשהם נדרשים לטפל בפי חמישה יותר פונים באותו תקציב.

אלא ששמיץ מדגיש הבדל מהותי: לטענתו, רוב הבקשות החדשות לשירותים הציבוריים אינן "זבל" שנוצר על ידי AI, אלא מגיעות מאנשים אמיתיים עם תביעות לגיטימיות. "הרוב המכריע של המקרים שאנחנו מוצאים הם אנשים שזכאים לתבוע משהו, ותובעים את אותו הדבר", אמר לכתבה. ככל הנראה, הסיבה שאותם אנשים לא פנו קודם לכן היא מה שמכונה בעולם המדיניות הציבורית "נטל בירוקרטי" (administrative burden) — כלומר עצם תהליך ההגשה היה מסובך או מרתיע מדי. אם כלי AI מסירים את המכשול הזה, נפתח כאן, לפי שמיץ, חלון הזדמנות לעיצוב מחדש של השירותים הציבוריים כך שיתאימו לעידן ה-AI.

שמיץ, שמתאר את המצב כהזדמנות ולא רק כאתגר, מציין כי חלק ניכר מהעבודה על AI טוב טמון ביכולת להגדיר איך נראית הגרסה הטובה של תהליך. "כל מי שאי פעם השתמש ב-ChatGPT כדי למלא דוח מס יודע שיש כאן גרסה טובה, שבה מקבלים עזרה אמיתית... זה יכול להיות הרגע לומר: אנחנו צריכים לחשוב מחדש כמעט על כל מה שקשור לאופן שבו התהליך הזה נראה", אמר.