טראמפ פרסם תמונה של שיפוץ בבית הלבן, וכלי הזיהוי של גוגל סימן אותה כתמונה שנערכה ב-AI
נשיא ארה"ב דונלד טראמפ פרסם ב-Truth Social סדרת תמונות של עבודות השיפוץ בבית הלבן. אחת מהן, שמשווה בין עמוד ישן לעמוד "משוחזר", מכילה כמה אי-התאמות, וכלי זיהוי ה-AI של גוגל סימן אותה כתמונה שנוצרה או נערכה בבינה מלאכותית. המקרה מעלה שוב את השאלה עד כמה אפשר לסמוך על תמונות שמפרסמים פוליטיקאים.
נשיא ארה"ב דונלד טראמפ פרסם ברשת החברתית שלו, Truth Social, סדרת תמונות של עבודות השיפוץ בבית הלבן. לפי דיווח ב-The Verge, נראה שאחת התמונות עברה עריכה בבינה מלאכותית. התמונה משווה בין עמוד ישן בבית הלבן לעמוד "משוחזר". לפי הדיווח יש בה כמה אי-התאמות, וכלי זיהוי ה-AI של גוגל סימן אותה כתמונה שנוצרה או נערכה באמצעות AI.
מה פורסם
הפוסט נועד להציג את עבודות השיפוץ והשחזור בבית הלבן, והתמונה המדוברת בנויה כהשוואת "לפני ואחרי". השוואה כזאת היא כלי מקובל להמחשת עבודות בנייה ושיפוץ, וכל כוחה בכך שהצופה מניח ששתי התמונות מתעדות את המציאות. ב-The Verge מציינים שבתמונה של העמוד ה"משוחזר" יש כמה אי-התאמות, ושהיא סומנה בכלי הזיהוי של גוגל.
מחומרי המקור לא ברור מי ערך את התמונה, באיזה כלי השתמש ולמה. כמו כן לא ידוע אם הבית הלבן הגיב לדיווח.
איך מזהים תמונה שנערכה ב-AI
בשנים האחרונות חברות הטכנולוגיה הגדולות, ובהן גוגל, משלבות סימון בתמונות שנוצרות בכלים שלהן ומציעות כלים לזיהוי תוכן כזה. רעיון הבסיס הוא לתת לציבור דרך כלשהי להבדיל בין צילום אמיתי לתמונה שעובדה על ידי מודל.
חשוב לזכור שגם לכלים האלה יש מגבלות. ככלל, הם מספקים אינדיקציה ולא הוכחה חלוטה. לכן הסימון של גוגל משמעותי בעיקר מפני שהוא מצטרף לאי-ההתאמות שנמצאו בתמונה עצמה.
למה זה חשוב
כאן לא מדובר בתמונה ויראלית אנונימית ברשת. התמונה פורסמה בחשבון של נשיא מכהן כדי להציג עבודה שבוצעה בפועל בבניין ממשלתי. כשתמונה כזאת מתבררת, ככל הנראה, כערוכה, השאלה כבר לא טכנית. היא נוגעת לאמון בתיעוד שמפרסמים נבחרי ציבור.
המשמעות היא שגם כשהשיפוץ עצמו אמיתי, די בעריכה שמשפרת את התוצאה כדי להטיל ספק בשאר התמונות בסדרה. מבחינת הציבור, מרגע שתמונה אחת נחשדת, קשה לדעת על אילו מהאחרות אפשר לסמוך.
סביר להניח שמקרים כאלה רק יתרבו ככל שכלי עריכה מבוססי AI יהפכו לנגישים ולפשוטים יותר. הגבול בין "שיפור" תמונה לבין יצירת מציאות שלא הייתה מיטשטש, ובהיעדר שקיפות לגבי השימוש בכלים האלה, כלי זיהוי כמו של גוגל עשויים להפוך לחלק קבוע מבדיקת עובדות בתוכן פוליטי.
לקורא הישראלי, שגם מול עיניו פוליטיקאים מפרסמים תמונות וסרטונים ברשתות בלי הפסקה, המקרה הוא תזכורת: גם תמונה שיוצאת מהחשבון הרשמי של מנהיג אינה בהכרח תיעוד נאמן של המציאות.