חולצה, שיר של ביונסה וחצי מיליון לייקים: איך תמונת AI מזויפת של מיה גות' הגיעה עד לחיפוש של גוגל
תמונה שנוצרה ב-AI ובה נראית השחקנית מיה גות' בחולצה שלועגת לשיה לבוף, ימים ספורים אחרי שהגישה בקשת גירושין, צברה כמעט 500 אלף לייקים באינסטגרם. החשבון שפרסם אותה נשא תג אימות כחול, והתמונה הגיעה משם לאתרי רכילות ולסיכום ה-AI של גוגל. לפי The Verge, זו דוגמה אחת מתוך תופעה רחבה של דיפ-פייקים של סלבריטאים שהרשתות מתקשות לעצור.
תמונה של השחקנית מיה גות' לובשת חולצה שעליה כתוב "MY EX IS MY BIGGEST FAN" ("האקס שלי הוא המעריץ הכי גדול שלי") הופצה באינסטגרם ימים ספורים אחרי שגות' הגישה בקשת גירושין מהשחקן והבמאי שיה לבוף. התמונה צברה כמעט 500 אלף לייקים, ובהם לייקים של אנשים מתעשיית הבידור. אבל היא נוצרה ב-AI, כפי ש-דיווח The Verge.
הסימנים שהיו שם מההתחלה
בדיעבד, כותבת מיה סאטו מ-The Verge, היו לא מעט סימני אזהרה. לפוסט צורף השיר "Single Ladies (Put a Ring on It)" של ביונסה, כדי שהמסר לא יתפספס. פוסט כזה לא מתאים לכוכבת "Pearl", שכמעט אין לה נוכחות ברשתות החברתיות, אם בכלל. גם החשבון עצמו, @miagoth_, הוגדר כחשבון מעריצים.
מה שכנראה גרם לרבים להאמין לתמונה הוא האמינות שהחשבון שידר: יותר ממיליון עוקבים ותג אימות כחול. כאן נמצא חלק מהבעיה. מטא מאפשרת לקנות את התג הכחול גם לחשבונות שאינם רשמיים ושלא מנוהלים בידי דמות מוכרת. במילים אחרות, התג שאמור לסמן אמינות מעיד בעיקר על כך שמישהו שילם.
נציגתה של גות', כריסטין טריפיקיו, אמרה ל-The Verge שהם כבר התלוננו בעבר בפני אינסטגרם על החשבון הזה, בגלל שפרסם "תמונות AI מזויפות" של השחקנית. "העובדה שחשבון המעריצים הזה עומד בקריטריונים של אינסטגרם לקבלת 'וי כחול' מטרידה ברמה הבסיסית ביותר", כתבה. "מעבר לכך, לא ניתן להבין איך אינסטגרם מעדיפה ככל הנראה את הפצתן של תמונות מזויפות ומעובדות על פני ההגנה על דמותה של אישיות ציבורית".
מאינסטגרם לגוגל
בגלל החדשות על הגירושין, התמונה התגלגלה לאתרי רכילות, ומשם הגיעה לתוצאות החיפוש של גוגל. חיפוש של השחקנית והחולצה הציג סיכום AI (AI Overview), שבו נכתב שגות' "עוקצת בבירור את האקס שלה, שיה לבוף, בעקבות בקשת הגירושין", והמקורות שצוינו היו אותם בלוגים. בנוסף הופיע במקום בולט אזור בתוצאות שכותרתו "מיה גות' מושכת תשומת לב באינסטגרם עם חולצה חצופה". בסופו של דבר אינסטגרם הסירה את החשבון בטענה שהוא מתחזה לדמות ציבורית.
המקרה מראה איך זיוף אחד יכול לעבור כמה שכבות "אימות" בדרך: תג כחול ברשת חברתית, כתבות באתרי רכילות ולבסוף סיכום אוטומטי של מנוע חיפוש. כל שכבה ככל הנראה שאבה את האמינות שלה מהשכבה הקודמת.
לא מקרה בודד
סלבריטאים היו מטרה של תוכן גנרטיבי מאז שכלים כאלה נעשו זמינים לציבור. שיר שחיקה את קולו של דרייק הוסר מיוטיוב בעקבות תלונות על הפרת זכויות יוצרים, וסקרלט ג'והנסון שכרה צוות משפטי אחרי ש-OpenAI השיקה ל-ChatGPT קול שנשמע כמו שלה בלי הסכמתה. טיילור סוויפט הודיעה ב-2024 על תמיכתה בקמלה האריס, ואמרה שהחליטה להבהיר את עמדתה אחרי שדונלד טראמפ פרסם תמונות מזויפות שרמזו שהיא תומכת בו.
לפי The Verge, היקף התופעה רק גדל, וחלק ניכר מהתוכן שמציג נשים מפורסמות הוא מיני במובהק. חשבון אחד פרסם רק תמונות AI של ג'והנסון והפנה לערוצים בתשלום ב-Patreon ובטלגרם. חשבון אחר מפרסם תמונות של מילי בובי בראון, זנדאיה ואריאנה גרנדה, תמיד בלבוש חלקי או בתנוחות מיניות.
אחרי ש-The Verge פנה למטא בנוגע לשמונה חשבונות כאלה, מסר דובר החברה, אלכס דזידזן, שחלקם הוסרו. שניים מהם, החשבון של גות' והחשבון של ג'והנסון, נראים כעת מושבתים. "אנחנו לא מאפשרים לחשבונות להשתמש בדמותו של אדם כדי להתחזות אליו, בין שהתוכן אמיתי ובין שנוצר ב-AI", כתב דזידזן.
הפער בין המדיניות המוצהרת לבין המציאות הוא כנראה עיקר הסיפור. בפועל, חשבון שכבר דווח בעבר המשיך לפעול עם תג אימות, והספיק להפיץ תמונה מזויפת שצברה כמעט חצי מיליון לייקים לפני שהוסר. כל עוד הסרת תוכן כזה מתעכבת עד שהנזק כבר נעשה, סביר שמקרים דומים ימשיכו להגיע למיליוני צופים לפני שמישהו יעצור אותם.