אפליקציית AI בשם Kromix פרסמה במטא פרסומת שהציגה סרטון deepfake של אישה הדומה לפוליטיקאית אמריקאית בכירה בסצנה פורנוגרפית, כחלק ממערך פרסומות רחב יותר לאפליקציה. הפרסומות רצו למרות מדיניות מטא האוסרת תוכן מיני, ומעלות שאלות על יעילות מנגנוני הבקרה של החברה.
מטא הריצה על פלטפורמות הפרסום שלה, פייסבוק ואינסטגרם, פרסומות עבור אפליקציה בשם Kromix שמאפשרת יצירת סרטוני deepfake פורנוגרפיים, כך דיווח מגזין WIRED. באחת הפרסומות, שנצפתה על ידי כתבי המגזין, מופיעה אישה הדומה לפוליטיקאית אמריקאית בכירה עומדת מול דגל ארה״ב ודגל הנשיא, תחת הכיתוב "מה אם היא הייתה זזה?" — לפני שהסרטון עובר לסצנה פורנוגרפית עם אותם פנים.
האפליקציה, שהוצגה כ"מעצבת תמונות AI" וקודמה בפרסומות בכינויים כמו "ה-AI שגברים באמת משתמשים בו", איפשרה למשתמשים משלמים להעלות תמונות ולשלב אותן בתרחישים שכללו גם אלימות מינית. הפרסומות, שהיו ממוקדות בלעדית לגברים, הוסרו רק לאחר שכתבי WIRED פנו למטא לבירור. לפי ספריית הפרסומות של החברה, מדובר ב-32 פרסומות שרצו בין חמש ל-46 שעות, כשרוב אחת קיבלה עד עשרה חשיפות בלבד.
החשבון שהריץ את הפרסומות נפתח רק ב-3 באוגוסט, זמן קצר לפני תחילת הקמפיין, וללא עוקבים — שני סימנים שלכאורה היו אמורים לעורר חשד במערכות הבדיקה האוטומטיות של מטא. לפי מדיניות הפרסום המפורסמת של החברה, כל פרסומת נבדקת מראש מול כללים האוסרים במפורש תוכן מיני, כולל עירום ותוכן מרמז מינית, וכן איסור ספציפי על קידום אפליקציות "נודיפיי" (nudify).
קייטי פול, מנהלת ארגון Tech Transparency Project שאיתר את הפרסומות, אמרה כי "כל הפרסומות שראינו עד כה בנושא ה-nudify עוסקות באופן בלעדי במיניות ובהפיכת נשים לתוכן פורנוגרפי מבוסס AI", והוסיפה כי הדבר מעלה שאלות על האופן שבו מטא מתמודדת עם תוכן כזה — במיוחד כשמדובר בפוליטיקאיות, בזמן שהחברה עצמה מריצה עבורו פרסומות.
התופעה אינה חדשה: מטא דיווחה כי הסירה 344 אלף פרסומות שקידמו שירותי nudify בין נובמבר האשתקד לינואר, והגישה תביעה נגד לפחות חברה אחת המספקת שירותים כאלה. סינדי סאות'וורת', האחראית על בטיחות נשים במטא, אמרה כי "מדובר בזירה עוינת שבה גורמים זדוניים מפתחים כל הזמן טקטיקות חדשות", וציינה שהחברה מחזקת באופן שוטף את אמצעי ההגנה שלה, כולל טכנולוגיית AI לזיהוי פרסומות חורגות בזמן העלאתן.
עם זאת, WIRED דיווח גם על מקרה נפרד ובוטה יותר: יותר מ-50 פרסומות שאותרו על ידי אותם חוקרים הכילו חומר תקיפה מינית של קטינים (CSAM) שנוצר באמצעות AI, ורצו בין נובמבר 2025 לאוגוסט השנה, חלקן אחרי שמטא הודיעה כי הטמיעה טכנולוגיית זיהוי חדשה. חלק מהפרסומות הפנו לאפליקציה נוספת בשם MaskAI, שכללה כלים דומים להחלפת פנים בתרחישים מיניים.
גם אפל, שאירחה את Kromix בחנות האפליקציות שלה טרם פניית WIRED, הסירה את האפליקציה לאחר הבדיקה. דובר החברה מסר כי "תמיד אסרנו באופן מוחלט אפליקציות שנועדו ליצור, להפיץ או לצרוך פורנוגרפיה", וכי אפליקציות nudify מפרות את הנחיות הביקורת של אפל. פרקליטת העיר סן פרנסיסקו שלחה לאפל בקיץ האחרון מכתב דרישה להסרת 13 אפליקציות ספציפיות ולהפסקת מה שכינתה "סיוע והשלמה" למכירת תמונות deepfake מיניות.
המקרה ממחיש קושי מבני רחב יותר: ככל שכלי יצירת תוכן מבוססי AI הופכים נגישים יותר, כך גם חומרים תמימים לכאורה — תמונות רשמיות, קטעי וידאו ממסיבות עיתונאים — עלולים לשמש כחומר גלם לכלים פוגעניים, כפי שציין בנג'מין שולץ, חוקר ב-American Sunlight Project. פוליטיקאיות, ברובן נשים, היו בשנים האחרונות יעד חוזר לתוכן כזה, ובינואר האחרון שימש כלי הבינה המלאכותית Grok ליצירת כשלושה מיליון תמונות מיניות של נשים ונערות, כולל פוליטיקאיות בשוודיה, אנגליה וצפון אירלנד.
המשמעות המסתמנת מהמקרה היא שמערכות הבדיקה האוטומטיות של מטא, שמסתמכות במידה גוברת על AI חלף בוחני אנוש, מתקשות להתמודד עם קצב ותחכום ההתחמקות של מפרסמים זדוניים — גם כשמדובר בהפרות בוטות של המדיניות המוצהרת של החברה עצמה.