שירי מלחמה מבינה מלאכותית: התעמולה הרוסית שמגיעה למיליוני השמעות בספוטיפיי וביוטיוב

בשנתיים האחרונות נוצרו בעזרת כלי בינה מלאכותית מאות שירים ברוסית שמהללים את הצבא הרוסי ואת הפלישה לאוקראינה. השירים זמינים בפלטפורמות הסטרימינג הגדולות וצברו מיליוני השמעות. כך עולה ממחקר של Terrecon, ארגון מחקר אוקראיני ללא מטרות רווח, ומדיווח ב"ניו יורק טיימס", כפי שסוקר ב-ynet. לפי המחקר, הטכנולוגיה הפכה לכלי תעמולה זול ויעיל, וחברות הטכנולוגיה מתקשות לעצור אותו.

מבלדות ועד טראש מטאל

Terrecon ריכזה רשימה של 981 שירי תעמולה שנוצרו ב-AI. רובם הגדול הופיע אחרי 2024, כשנכנסו לשוק אפליקציות ליצירת מוזיקה כמו Suno, ‏Udio, ‏Google Flow Music ו-Mureka. רבות מהאפליקציות האלה פותחו בארה"ב. הסגנונות מגוונים: בלדות נוסטלגיות, פופ קליט, רוק כבד וטראש מטאל. המשותף לכולם הוא האדרת החיילים הרוסים וזלזול באוקראינים, לפעמים בליווי קללות אתניות. הפלישה של 2022 מוצגת בשירים כהגנה הכרחית.

חלק מהשירים מזכירים את מסורת שירי המלחמה הסובייטיים, שתיארו חוויות אמיתיות של חיילים במלחמת העולם השנייה. "בתו של חייל" הוא קינה של חייל שנפל, שפונה אל בתו. "כוחה של ארטילריה" הוא שיר רוק על מערכת ירי ארוכת טווח. הוא נוצר ב-Suno, פורסם ביוטיוב עם קטעי וידאו וצבר יותר משני מיליון צפיות בשנתיים. את השיר העלה משתמש בשם סרגיי וסייקין.

החוקרים מסבירים את ההיגיון הכלכלי: "יצירת שיר אמיתי דורשת הרבה משאבים: כותבים, הפקה, נגנים. יצירת שיר באפליקציית בינה מלאכותית קלה, מהירה וזולה בהרבה".

למה הפלטפורמות לא עוצרות את זה

לפי המחקר, יש פער גדול בין מה שהפלטפורמות מצהירות לבין מה שהן אוכפות בפועל. השירים זמינים בספוטיפיי, ב-Apple Music, ביוטיוב ובדיזר, ורק חלק מהשירותים מחייבים לסמן תוכן שנוצר ב-AI. ספוטיפיי החליטה רק בספטמבר האחרון לסמן שירים כאלה ולהפסיק לקדם אותם, אבל היא לא בהכרח מסירה אותם.

שירותים אחרים מצהירים על מדיניות נגד תכני שנאה ואלימות, אבל רק מעטים מגבילים שירים בפועל. חלקם מתקשים לזהות ביטויים ועלבונות בשפות זרות. לפי החוקרים, המערכות האוטומטיות של יוטיוב ושל SoundCloud לא זיהו שירים שהכותרות והתיאורים שלהם הצהירו במפורש שמדובר בתעמולת מלחמה רוסית. השירים נשארו באוויר שבועות.

החוקרים בדקו גם את מחוללי המוזיקה עצמם. הם כתבו הנחיות (prompts) ברוסית ובאנגלית שביקשו שירים שמקדמים תעמולה רוסית, כולל קריאות לאלימות. האפליקציות סירבו לחלק מהבקשות, אבל ביצעו אחרות. את השירים שנוצרו החוקרים הצליחו להעלות ל-YouTube Music ול-SoundCloud. המסקנה שלהם היא שמערכות הסינון מגיבות בעיקר למילים אסורות ולא להקשר הכללי.

מי עומד מאחורי השירים

לפי Terrecon, לא ברור עד כמה הממשל הרוסי מעורב ישירות בהפצת השירים. עם זאת, ידוע שהקרמלין משקיע משאבים רבים בגיוס תמיכה תרבותית במלחמה. לפי התקשורת הרוסית, מנהל "מכון פיתוח האינטרנט", ארגון במוסקבה שעובד בשיתוף פעולה הדוק עם הממשל על "קידום ערכים פטריוטיים", הציג לאחרונה יותר מ-350 פרויקטים "אמנותיים" על המלחמה שהמכון קידם.

המשמעות

המקרה הזה מראה ככל הנראה בעיה רחבה יותר בניהול תוכן שנוצר ב-AI. עלות היצירה כמעט אפסית, ומערכות הסינון עדיין מחפשות מילות מפתח ולא מבינות כוונה. מי שמנסח בזהירות יכול לעבור את המסננים בקלות. וכשמדובר בשפה שאינה אנגלית, הפער כנראה גדל עוד יותר. המשמעות היא שתיוג תוכן AI, כמו הצעד של ספוטיפיי, לא פותר את הבעיה לבד. כדי לעצור תעמולה כזו, הפלטפורמות יצטרכו ככל הנראה להבין הקשר ולא רק לזהות מילים, וגם לאכוף בפועל את המדיניות שהן כבר הצהירו עליה.