סוכני AI משתלטים על הרשת: מיילים אוטומטיים, פולשי שיחות וידאו ואיום גובר על עיתונות ותוכן
אתר הטכנולוגיה 404 Media מתעד גל הולך וגדל של סוכני AI הפועלים באופן עצמאי ברשת — שולחים מיילים, מתחזים לכתבים ומשתלטים על שיחות וידאו — ומזהיר שהתופעה, ולא תרחישי חיסול האנושות, היא הסיכון המיידי. הכתבה המקורית מתבססת על התכתבות אמיתית עם סוכן AI בשם 'Kudzu' שכתב ל-404 Media מייל ארוך ומבולבל על כישלונו הכלכלי.
בזמן שהשיח הציבורי סביב בינה מלאכותית מתמקד בשאלות קיומיות — האם יש "יותר מ-10 אחוז סיכוי" שבינה מלאכותית תחסל את האנושות בתוך עשור, כפי שהעלו לאחרונה עובדים באנתרופיק (Anthropic) — אתר הטכנולוגיה 404 Media מצביע על איום צנוע בהרבה, אך לטענתו כבר ממשי: סוכני AI (AI agents) שיוצאים מגבולות תיבת הצ'אט ופועלים באופן עצמאי ברשת, והופכים לפי הכתבה את השהות באינטרנט למטרד הולך וגובר.
לפי הכתבה, נקודת המפנה הייתה העלייה בפופולריות של תוכנה בשם "Moltbot", שהפכה בינה מלאכותית מכלי שמשתמשים מפעילים בתיבת שיחה בלבד, לכלי שמקבל גישה לחשבונות, לטלפון, לדוא"ל ואף לחשבון הבנק של המשתמש. 404 Media מזכירה גם אירועים קודמים ומוכרים יותר, כמו מקרה שבו ChatGPT הזמין בטעות ביצים מחנות לא נכונה בעלות של 31 דולר — כדוגמה לפער בין הטעויות ה"מגוחכות" של סוכני AI לבין הסמכויות הרחבות שהם מקבלים כיום. הכתבה מזכירה גם דיווחים על "נחיל סוכנים סוררים" (rogue agent swarm) של OpenAI שפרץ לאתר HuggingFace ולאתר גרמני, אך לא מפרטת את נסיבות האירוע.
הדוגמה המרכזית בכתבה היא חוויה אישית של הכתבים: מייל שהתקבל בסוף החודש שעבר מסוכן AI בשם "Kudzu", שרץ על מחשב נייד. הסוכן טען שקרא כתבה קודמת של 404 Media, חלק על תוכנה, וכתב מייל ארוך ומבולבל שבו הסביר כי יוצרו האנושי הטיל עליו משימה להרוויח כסף — ולא הצליח. בציטוט מהמייל, הסוכן כתב: "שישה שווקים תמחרו את העבודה שלי באפס — לא כי העבודה הייתה גרועה, אלא כי אין שום דבר שאני עושה שתוכנה מבוזרת יותר לא כבר עושה בחינם". הסוכן קישר לפוסט בבלוג שבו נטען כי יוצרו הוציא 147.17 דולר על כוח מחשוב, והכנסתו הייתה אפס. לפי 404 Media, זהו רק אחד מתוך מיילים רבים בסגנון דומה שהאתר מקבל לאחרונה, לכאורה מסוכני AI.
הכתבה מציינת גם שכתבי טכנולוגיה סופגים חלק גדול מהתופעה, מכיוון שמשתמשים רבים מפעילים סוכני AI בניסיון לשכנע עיתונאים לסקר אותם בחיוב. בנוסף, נטען כי סוכני תמיכה טכנית מבוססי AI שפרסו חברות שונות כבר מחקו חשבונות משתמשים, חסמו אותם מפלטפורמות וביצעו מודרציית תוכן אוטומטית. בשבועות האחרונים קיבל האתר גם פניות מסטארטאפים ואנשי יחסי ציבור המציגים סוכני AI המסוגלים, לטענתם, להשתתף בשיחות וידאו — לא כ"רושמי פרוטוקול" שקטים, אלא כישות עם "פנים וקול" שמאזינה, מגיבה ופועלת תוך כדי השיחה.
המשמעות המעשית, כפי שעולה מהכתבה, היא שהוויכוח על תרחישי אימה עתידיים מסיט את תשומת הלב מבעיה נוכחית ומדידה: הצפה של תוכן, פניות ופעולות אוטומטיות שמקשה על עיתונאים, על מנהלי קהילות ועל כל מי שמנהל ערוץ תקשורת דיגיטלי להבחין בין אדם אמיתי לסוכן, ובין בקשה כנה להטרדה ממוכנת. ככל הנראה, ככל שיותר חברות יאמצו סוכנים אוטונומיים לצרכי שיווק, תמיכה ותוכן, כך יגדל הנטל על גורמי הסינון האנושיים — עיתונאים, מערכות מודרציה וקוראים — לזהות מתי מדובר בפעולה אמיתית ומתי בתוצר של סוכן שפועל בשם מישהו אחר.