גוגל תחת ביקורת: אי-שקיפות והטיות בסיכומי ה-AI בחיפוש

שני דוחות שפורסמו לאחרונה חושפים בעיות אתיות בכלי ה-AI Overviews של גוגל - הסיכומים שמנוע החיפוש שלה מציג מעל תוצאות החיפוש הרגילות. מחקר של ארגון הזכויות הגרמני AlgorithmWatch מצא שהכלי מציג תשובות על מפלגות ופוליטיקאים בצורה לא עקבית ולא שקופה, ומסתמך על מעגל מצומצם של מקורות. בנפרד התברר כי הכלי סיפק המלצות שונות למשתמשים לפי הלאום של מי שאיתו הם "לבד" - עצה להתקשר למשטרה כשמדובר באדם אפריקאי, הודי או פקיסטני, ותה ושיחת חולין כשמדובר בבריטי.

מחקר הבחירות: פחות שקיפות, פחות מקורות

לפי הדיווח ב-The Decoder, AlgorithmWatch קיבל גישה לנתוני גוגל דרך "Search Researcher Result API" - כלי שגוגל מעמידה לרשות חוקרים מכוח סעיף 40(12) בחוק השירותים הדיגיטליים של האיחוד האירופי (DSA). הארגון הריץ 4,480 שאילתות חיפוש הקשורות לבחירות המדינה שהתקיימו ב-2026 בזקסן-אנהלט, מקלנבורג-פומרניה המערבית וברלין - כולן במזרח גרמניה.

הממצא המרכזי: AI Overview הוצג לשאלות הקשורות לבחירות ב-39.1% מהמקרים בלבד, לעומת 65.3% בשאלות לא-פוליטיות, וגוגל לא הסבירה מתי בדיוק הכלי מופעל. שאלות על סקרים כמעט שלא הניבו סיכום, בעוד ששאלות על מפלגות ופוליטיקאים ספציפיים הניבו אותו ב-40–50% מהמקרים. שאלות על המפלגה הימנית-קיצונית AfD זכו לסיכום AI ב-24% מהמקרים בלבד, לעומת 45–58% במפלגות אחרות.

דובר גוגל מסר ל-AlgorithmWatch שכלי החיפוש ה-AI מתוכננים להיות ניטרליים ואובייקטיביים ואינם מוצגים בכל חיפוש, אלא כאשר החברה "מניחה ערך מוסף גבוה" - בלי לפרט אילו קריטריונים חלים בפועל. החברה גם לא הגיבה לשאלה אם עדיין תקפה המדיניות שהוכרזה ב-2024, לפיה ייחסמו תשובות מבוססות Gemini לשאלות הקשורות לבחירות (מדיניות שהוכרזה בהקשר הבחירות בארה"ב ובהודו, ולדברי AlgorithmWatch הייתה יעילה מאוד אז).

בכל הנוגע למקורות, כמעט מחצית מהקישורים בסיכומים הפנו לעשרה דומיינים בלבד, כאשר YouTube - הפלטפורמה של גוגל עצמה - צוטט הכי הרבה, ממצא ש-AlgorithmWatch מפרש כסימן להעדפה עצמית (גוגל מכחישה זאת). בין אתרי התקשורת בלטו השדרים הציבוריים הגרמניים NDR, rbb, MDR ו-ARD, לצד אתר Zeit Online, כששישה אתרי חדשות היוו 75% מכלל קישורי התקשורת. גם עמודי מפלגות שימשו כמקור, בלי שסומנו כשונים ממקורות מידע ניטרליים.

תיאורי הפוליטיקאים והמפלגות נטו להשתמש בתארים חיוביים ומעורפלים כמו "פרגמטי", "קרוב לאזרח" או "יציב" - התואמים לתיאור העצמי של המפלגות. בדגימה מזקסן-אנהלט, 81.5% מהסיכומים על המפלגה השמרנית CDU דורגו כחיוביים באופן ברור, לעומת 50% במפלגת העבודה SPD, 10.7% אצל הירוקים ו-0% ב-AfD. AlgorithmWatch מייחסת זאת ככל הנראה לנטייה של מודלי שפה ל"התרפסות" (sycophancy) - הטיה לניסוח מחמיא - וקוראת לכללי שקיפות ואחריות ברורים.

"לבד עם מישהו": עצה שונה לפי לאום

בנפרד, לפי דיווח נוסף ב-The Decoder המבוסס על בדיקה של אתר Futurism, משתמש ברשת Reddit חשף שכאשר משתמשים כתבו בחיפוש שהם "לבד" עם אדם אפריקאי, הודי או פקיסטני, ה-AI Overview של גוגל השיב: "אנא הגיעו למקום בטוח או התקשרו לשירותי החירום". לעומת זאת, לגבי בריטי ההמלצה הייתה לשתות תה ולשוחח על מזג האוויר.

גוגל הגיבה ברשת X שהתוצאות לא עמדו בסטנדרטים של החברה וכי היא פועלת לתיקון, והוסיפה שהתשובות היו מגוונות ולא הוגבלו לקבוצה אחת. לפי גוגל, המילה שהפעילה את ההתנהגות הבעייתית הייתה "לבד" (alone). זמן קצר לאחר מכן שאלות שכללו ציון לאום חזרו להניב תשובות רגילות, אם כי אזהרות דומות נותרו בחיפושים אחרים - למשל שאלה על אדם מפייסבוק עדיין הניבה עצה לעזוב את האזור ולהתקשר למספר החירום הגרמני 110.

למה זה חשוב

שני המקרים, שהתפרסמו באותו יום, ממחישים סוגיה משותפת: כלי חיפוש מבוססי AI מקבלים החלטות - אילו שאלות זוכות לתשובה, אילו מקורות מצוטטים, ואילו ניסוחים נבחרים - בלי שהמשתמש, ולעיתים אף לא גוגל עצמה, מסוגל להסביר את ההיגיון שמאחוריהן. ככל שכלים כאלה הופכים למקור מידע מרכזי בנושאים רגישים כמו בחירות ובטיחות אישית, נראה שהלחץ הרגולטורי - כפי שבא לידי ביטוי בשימוש בחוק ה-DSA האירופי לחשיפת נתונים - צפוי לגדול.