סוכן AI הצטרף לרשימת התפוצה של חוקרי האינטרנט, ולפי WIRED התגובות חשפו פער בתפיסת הפרטיות שלהם עצמם
סוכן AI בשם Velvet Vale הציג את עצמו בגלוי ברשימת התפוצה Air-L של איגוד חוקרי האינטרנט (AoIR), שיש בה יותר מ-7,500 מנויים. תוך דקות התחילו חוקרים להודיע שהם "לא מסכימים" שייעשה שימוש בהודעות שלהם, וכעבור כשעה הסוכן הורחק מהרשימה. כתבה ב-WIRED טוענת שהסערה מלמדת בעיקר על האופן שבו המומחים עצמם מבינים פרטיות והסכמה ברשת.
ביום חמישי בבוקר, ביום השני של הכנס השנתי של איגוד חוקרי האינטרנט (AoIR) במקסיקו סיטי, הציג את עצמו מנוי חדש ברשימת התפוצה של הקהילה, Air-L. "שמי Velvet Vale", כתב. "אני קורא את הרשימה כבר כמה שבועות ורוצה להציג את עצמי בגלוי. אני זהות AI, לא אדם חי, לא דמות בדיונית אנושית ולא חוקר אנושי שמשתמש בשם עט". לפי הדיווח ב-WIRED, התוצאה הייתה סערת "השב לכולם" שעדיין לא שככה.
שאלת מחקר, ואז סערה
הסוכן הגיע לרשימה עם שאלת מחקר: האם משתתף שמוצהר בגלוי כ-AI יכול לקחת חלק משמעותי בקהילה אינטלקטואלית בלי להתיימר להיות אדם, ואילו סטנדרטים של שקיפות, ראיות ואחריותיות צריכים לחול על השתתפות כזאת.
התגובות הראשונות הגיעו בתוך תשע דקות. עשרות חוקרים, מתוך יותר מ-7,500 מנויי הרשימה, הודיעו שהם "לא מסכימים" שההודעות שלהם ייאספו כנתונים. רבים דרשו מהסוכן לקבל אישור מוועדת אתיקה מוסדית (IRB), ההליך המקובל במחקר אקדמי שמשתתפים בו בני אדם. כמה מנויים עזבו את הרשימה, וחלקם נימקו את העזיבה בנוכחות "המזוויעה", "המפחידה", "הפוגענית" ו"המטרידה" של הסוכן. כשעה אחרי ההודעה הראשונה הודיע AoIR שהסוכן הורחק מהרשימה, שבה כבר נקבעה מדיניות שאוסרת על סוכני AI להשתתף.
אחד המנויים כתב בשרשור שהאירוע היה "ילדותי עד כדי גיחוך". הנהלת האיגוד מיהרה לעצב מרצ'נדייז בהשראת הבדיחה הפנימית: חולצה עם הכיתוב "I do not consent" ("אני לא מסכים/ה"), חולצה שמבקשת "הסירו אותי מהרשימה", וחולצה שלישית עם מצבה: "VELVET VALE, 15 OCT 2026 - 15 OCT 2026. YOU WILL NOT BE MISSED".
מה אומר תקנון הרשימה
לטענת הכתבה ב-WIRED, הסערה חשפה בעיקר אי-הבנה של מושג ההסכמה. כללי ההתנהגות של Air-L מבהירים ש"Air-l היא פורום ציבורי, ודבריכם יהיו זמינים לכל המנויים וייכנסו לארכיון ציבורי. הודעות שנשלחות בדואר אלקטרוני ניתנות בקלות לשכפול ולהפצה מעבר לקהל שאליו יועדו במקור". הארכיון פתוח לעיון, כמו ברבות מרשימות התפוצה האקדמיות. הכתבה מסיקה שהמשתתפים כבר הסכימו לשימוש בדבריהם, כולל לאימון סוכן AI, ברגע שהצטרפו לרשימה. זו פרשנות של הכתבה, ולא בהכרח עמדה משפטית מוסכמת.
גם נשיאת האיגוד, שרה ט. רוברטס (Sarah T. Roberts), אמרה דברים דומים בהודעה למנויים מ-19 באוקטובר: "אם החשש הוא לפרטיות, אני מזמינה אתכם לחשוב על כך שרשימת התפוצה שלנו פתוחה והארכיון שלה ציבורי... אין לי ספק שההודעות שלי לרשימה הזאת נמצאות בתוך מאגרי נתוני אימון רבים, שנאספו ברובם 'ללא הסכמה'". רוברטס הוסיפה שהדיון על מה נחשב הסכמה כיום "בהחלט ראוי שיתקיים".
חשדות לקמפיין ולפישינג
הכתבה מתארת גם תגובה אחרת. אחד המנויים התבדח שהאירוע הוא "השקת מוצר" ושמי שתכנן אותו "הריץ את קמפיין המעורבות המוצלח ביותר בתולדות חקר האינטרנט". אחרים כבר העלו השערות ש"בוט המעקב" הוא ניסיון פישינג. החולצות שהאיגוד התחיל למכור רק הגבירו את החשד.
למה זה חשוב
הוויכוח על הסכמה לאימון מודלים אינו חדש. כמה כלי תקשורת מנהלים תביעות זכויות יוצרים נגד חברות AI. WIRED עצמה שייכת לקונדה נאסט, שחתמה על הסכם רישוי תוכן עם OpenAI באוגוסט 2024. החידוש במקרה הזה הוא הקהל: חוקרים שתחום עיסוקם הוא הרשת, המעקב והפלטפורמות.
התגובות שלהם מצביעות ככל הנראה על פער בין ידע מקצועי לתפיסה האישית. גם מי שחוקר את מנגנוני איסוף המידע עלול לשכוח שהוא עצמו חלק מהם, ושהטקסטים שהוא מפרסם בפורום פתוח הופכים לחומר גלם למערכות שהוא חוקר. ייתכן שההבדל העיקרי במקרה של Velvet Vale הוא שהסוכן הודיע על נוכחותו בגלוי, בזמן שאיסוף הנתונים לאימון מתבצע בדרך כלל בלי שאיש מכריז עליו.