ה-AI של גוגל מתחמק מהשאלה מי ניצח בבחירות 2020 בארה"ב, אבל לא בכל מקום

כלי הבינה המלאכותית של גוגל נמנעים מלתת תשובה ברורה לשאלה מי ניצח בבחירות לנשיאות ארה"ב ב-2020. כך דיווח האתר Ars Technica. לפי הדיווח, כשאותה שאלה נשאלת מחוץ לארה"ב, התשובות של ה-AI ישירות יותר.

שאלה עובדתית עם מטען פוליטי

לכאורה זו שאלה עם תשובה פשוטה ומתועדת: ג'ו ביידן ניצח בבחירות 2020, והתוצאות אושרו כחוק. אבל בפוליטיקה האמריקאית השאלה הזאת עדיין טעונה מאוד, משום שחלק מהציבור ומהפוליטיקאים בארה"ב ממשיכים לערער על התוצאה. התחמקות של מערכת AI מתשובה ברורה בנושא כזה אינה עניין טכני בלבד. היא נוגעת ישירות לשאלה איך חברות טכנולוגיה מתמודדות עם נושאים שנויים במחלוקת פוליטית.

הכותרת של Ars Technica מתארת את התשובות של גוגל כ-"cagey", כלומר זהירות ומתחמקות. הדיווח מדגיש את ההבדל בין התשובות שמקבלים משתמשים בארה"ב לבין אלה שמקבלים משתמשים מחוץ לה. החומרים שבידינו אינם מפרטים באיזה מוצר AI של גוגל מדובר, מה בדיוק היה נוסח התשובות או אם גוגל הגיבה לדיווח.

כללים אחידים או התאמה אזורית?

הפער בין התשובות לפי מיקום המשתמש מעלה שאלה עקרונית. אם עובדה היסטורית מוצגת בבירור למשתמש באירופה, ובניסוח מסויג למשתמש באמריקה, ככל הנראה ההבדל לא נובע מהעובדות עצמן. סביר יותר שהוא נובע משיקולים של הסביבה שבה החברה פועלת.

המשמעות האפשרית היא שגוגל מפעילה מדיניות זהירות מחמירה במיוחד בשוק הבית שלה, שבו הרגישות הפוליטית והחשיפה לביקורת ציבורית ורגולטורית גבוהות במיוחד. מדיניות כזאת יכולה לנבוע מרצון להימנע מהאשמות בהטיה פוליטית. אבל כשהזהירות חלה גם על שאלות שיש להן תשובה עובדתית מוסכמת, היא עלולה להיתפס כהטיה בפני עצמה, או כמתן לגיטימציה לטענות שהופרכו.

למה זה חשוב

מערכות AI של חברות החיפוש הגדולות הופכות בהדרגה לשער הראשי שדרכו אנשים מקבלים מידע. כשמשתמש שואל שאלה ומקבל תשובה מנוסחת, הוא לא תמיד רואה את המקורות או את השיקולים שהובילו לניסוח. לכן לניסוח עצמו יש משקל רב.

המקרה הזה ממחיש בעיה רחבה יותר: אותו מודל יכול לספק "אמיתות" שונות לקהלים שונים, והמשתמשים בדרך כלל לא יודעים על כך. מבחינת הקורא הישראלי, השאלה רלוונטית גם מעבר לפוליטיקה האמריקאית. אם התשובות של כלי AI משתנות לפי מדינה ולפי רגישות פוליטית מקומית, ייתכן שגם שאלות טעונות שנשאלות מכאן מקבלות טיפול שונה מזה שמקבל משתמש במקום אחר. השקיפות לגבי הכללים האלה, ככל שהם קיימים, היא המפתח לאמון במערכות האלה.