הבית הלבן משיק את America.gov: צ'טבוט מבוסס Gemini שאמור להיות "דלת כניסה אחת" לשירותי הממשל

הבית הלבן משיק צ'טבוט בינה מלאכותית שנועד לעשות סדר בבירוקרטיה הפדרלית. הנשיא דונלד טראמפ הודיע ביום שלישי על השקת America.gov, צ'טבוט שאמור לעזור לאזרחים למצוא שירותים ממשלתיים ומידע נוסף. גוגל אישרה שהיא שותפה בהשקה ושהמודל שלה, Gemini, משולב בשירות. לא ברור אם חברות AI נוספות היו מעורבות.

"דלת כניסה אחת לכל שאלה"

טראמפ הציג את השירות כפתרון לבעיה שכל מי שניסה להסתדר מול רשות ממשלתית מכיר. "במקום לאלץ אזרחים לחפש במבוך האינסופי של עשרות אלפי אתרי ממשלה וכללים... תהיה לכם עכשיו דלת כניסה אחת לכל שאלה", כתב בפוסט ב-X.

הרעיון עצמו מוכר: במקום לנווט בין אתרים, טפסים ומשרדים שונים, האזרח שואל שאלה בשפה חופשית ומקבל תשובה או הפניה. מודלי שפה גדולים (LLM) מתאימים לכך במיוחד, כי הם יודעים לסכם כמויות גדולות של טקסט ולנסח אותו בשפה פשוטה. המשמעות היא ככל הנראה שינוי בממשק שבין האזרח לממשל: פחות חיפוש, יותר שיחה.

הבעיה: הזיות

כפי שמציינת TechCrunch, הפישוט הזה מגיע עם סיכון. מודלי שפה אינם חסינים מטעויות, והם עדיין נוטים ל"הזיות" (hallucinations), כלומר למידע שגוי שמוצג בביטחון מלא כעובדה.

הכתבה מזכירה דוגמה קיצונית: לפי דיווח של CNN, הצבא האמריקאי כמעט יצא למבצע חמוש נגד כלי שיט סיני, שלפי ההערכה נשא רכיבים לנשק גרעיני. המשימה בוטלה ברגע האחרון, כשהתברר שהאיום היה הזיה של מערכת AI.

טעות של America.gov כנראה לא תוביל לעימות גרעיני, אבל גם לה עלולות להיות השלכות ממשיות. אנשים עשויים להסתמך על הצ'טבוט כדי לברר איך מגישים בקשה לתלושי מזון, מחדשים ויזה או מגישים דוח מס. בתחומים האלה טעות יכולה להסתיים בפספוס מועד, בדחיית זכאות או בקנס.

גם הקמעונאות בודקת את הכיוון

הממשל האמריקאי אינו היחיד שמחפש דרכים לשלב AI בשירות לציבור. דיווח שהופץ ברשת, שלא אומת ושאין לו מקור מקושר בחומרים שבידינו, טוען שמקדונלד'ס משתמשת ב-AI כדי לקבוע כמה ישלם הלקוח על ביג מק. פרטים על אופן הפעולה, על ההיקף או על המדינות שבהן זה קורה לא נמסרו.

למה זה חשוב

השקת America.gov היא ככל הנראה אחד הצעדים הבולטים עד כה לשילוב צ'טבוט גנרטיבי בחזית השירות של ממשלה גדולה. זה גם מבחן לשותפות בין הממשל לחברות הטכנולוגיה. אם השירות יעבוד, הוא עשוי לשמש מודל לממשלות אחרות, כולל בישראל, שבה הניווט בין אתרי משרדי הממשלה מוכר לרבים כמשימה מתישה.

אבל השאלה המרכזית אינה אם הצ'טבוט נוח, אלא מי אחראי כשהוא טועה. כשהתשובה נוגעת לזכאות לקצבה, למעמד הגירה או לחבות מס, הפער בין "בדרך כלל נכון" ל"נכון" עלול לעלות לאזרחים ביוקר. בינתיים לא פורסם אם המערכת כוללת מנגנוני בקרה, הפניה לנציג אנושי או הסתייגות משפטית, והתשובות לשאלות האלה יקבעו ככל הנראה אם America.gov יפשט את המבוך או רק יוסיף לו שכבה חדשה.